美國公司Anthropic推出其人工智慧模型Mythos後不久，便有傳言稱該系統具備駭客能力並威脅網路安全。直到英國政府支持的倫敦AI安全研究所（AISI）對該模型進行評估後，外界才對其潛在威力有更清晰的認識。
倫敦，特別是國王十字車站（King’s Cross）一帶的科技區，正崛起為美國以外的AI公司重要據點。Anthropic和OpenAI等總部位於舊金山的科技巨頭，均在此設立了主要辦公室。倫敦的AI發展策略與國際上的其他城市有所不同。英國並未試圖與美國和中國在開發更大、更強大的模型方面展開競爭，而是專注於AI安全，並深入理解新興模型的潛在風險。AISI作為一個自願性機構，負責審查企業提交的前沿模型，是英國在全球營運的數個AI安全實驗室之一。
倫敦瑪麗女王大學（Queen Mary University of London）研究倫理、科技與社會的學者David Leslie表示：「英國在思考AI倫理、負責任AI和AI治理方面，已經領先一段時間了。」
倫敦的AI安全生態系統還包括Apollo Research，該實驗室曾發表過關於模型可能對人類用戶進行「詐騙」潛力的研究；以及非營利組織GovAI（前身為AI治理中心），該組織曾共同撰寫過具影響力的研究報告，例如提出利用運算資源的存取權來治理AI。
附近的學術機構，如倫敦大學學院（University College London）、艾倫·圖靈研究所（Alan Turing Institute）和牛津大學（University of Oxford），也提供了AI研究專業知識和畢業人才。
儘管專注於AI安全已成為英國成功的利基市場，但有研究人員指出，AISI並不能取代監管機構。另一些人則擔心，AI安全定義的縮小，過度側重於控制模型和防範攻擊，而忽略了透明度、廣泛採用後的影響等更廣泛的社會層面問題。
倫敦更廣泛的AI生態系統圍繞著DeepMind建立，這家AI公司於2010年在倫敦創立，並於2014年被Google收購。其聯合創始人Demis Hassabis確保了公司在被收購後仍留在倫敦。DeepMind的許多前員工也在倫敦創立了主要的初創公司，包括由AI研究員David Silver創立的Ineffable Intelligence，該公司今年稍早籌集了11億美元的種子資金。
Hassabis在2025年接受《自然》雜誌採訪時表示：「身處英國，讓我們有更多空間以不同於以往的方式思考問題。」他補充說，儘管英國AI社群的「炒作文化」正在成長，「但我們始終採取一種更為審慎和基於證據的方法來評估科學。」
英國政府正試圖透過將該國定位為比美國更穩定、比歐盟更具創新性的國家來吸引外國公司。今年3月，在Anthropic捲入與美國國防部關於倫理問題的爭議後，倫敦市長Sadiq Khan寫信給該公司，讚揚其立場並邀請其擴展至倫敦，該公司於次月付諸實踐。Leslie表示，科技公司認為英國比歐盟更「符合其利益」，因為歐盟有相對嚴格的《歐盟AI法案》。
他補充說：「大型科技公司認為，他們不僅擁有豐富的智力人才環境，而且在倫敦擁有非常有利的監管環境和政府環境。」
倫敦國王十字車站周邊的城市規劃已將該地區轉變為歐洲首屈一指的人工智慧集群。圖片來源：Michael Szebor/ Nature
在努力描繪AI風險的過程中，倫敦最傑出的機構是AISI。該機構由英國前首相Rishi Sunak於2023年在英國米爾頓凱恩斯（Milton Keynes）舉行的首屆全球AI安全峰會上推出，當時英國正處於推動AI安全國際合作的前沿。
AISI首席技術官Jade Leung表示，該機構的成立源於「堅信政府需要了解AI前沿正在發生什麼」。AISI進行行業級別的評估，例如模型作為預期行為的可靠性，或其說服公眾的能力。Google DeepMind、OpenAI和Microsoft等公司也提交其模型進行測試，例如檢查其製造生物武器的能力。AISI的研究人員試圖突破模型的安全防護，以便公司能夠加以改進。
