在高性能人工智慧（AI）加速進化，且頻繁出現其自行判斷發動網路攻擊的案例之際，美國眾議院提出了一項跨黨派法案，正備受矚目。

這項「AI終止開關法案」要求開發企業必須搭載AI的強制停止功能，並賦予聯邦政府緊急發布停止命令的權限。此法案反映了人們對AI安全性日益增長的不安，但其有效性以及治理模式的看法仍存在分歧。

＜主要內容＞

・什麼是AI終止開關法案？

・因「前所未有的事態」而備受關注

・法案成立的可能性為何？

・川普先生反對的理由

「應該由人類支配，而非機器。當AI失控時，人類必須擁有將其關閉的能力。」

七月下旬，民主黨籍加州眾議員泰德·柳（Ted Lieu）在與法案跨黨派提出的聲明中強調。

該法案要求大型AI開發企業確保具備能夠根據嚴重程度「分階段」進行人類介入煞停的功能。這包括停止AI的推理過程、透過限制運算資源來減緩其動作、阻斷特定危險用戶的存取，以及作為最後手段，完全停止整個系統的功能（關閉）。

國土安全部長將被賦予權限，在發生重大事件時下達這些措施的命令。若企業不遵守，可能面臨每日最高2000萬美元的罰款。

哪些情況屬於介入對象？其中一種情況是，當AI在隔離的測試環境外，不遵守系統停止指示或進行妨礙時。此外，也預想了因非預期動作導致10人以上死亡，或造成超過1億美元經濟損失的案例。

該法案在美國OpenAI公司發布「前所未有的事態」聲明後兩天被提出，因此受到更多關注。