AI新世紀：日本政府公布第二期AI基本計畫，聚焦高性能AI風險應對與網路安全

日本政府於14日閣議決定了「AI基本計畫」第二期計畫，該計畫旨在闡述國家在人工智慧（AI）開發與應用方面的方針。

計畫特別關注到，隨著如美國Anthropic公司於4月發表的「Claude 3」等高性能AI的出現，其伴隨的風險日益增大，因此將重點放在強化網路防禦和國際資訊共享上。與約半年前制定的第一期計畫相比，新計畫更加重視危機應對。

新的基本計畫中提到，「AI帶來的技術、社會及安全保障上的風險正變得日益複雜與嚴重」。

計畫分析指出，近期AI能夠自行重複計畫、執行、驗證及修正的「代理型AI」正快速進步。並對代理型AI發現系統的脆弱性，進而自主地建構、執行及修正攻擊步驟，從而引發網路攻擊的擔憂表達了關切。

為應對這些挑戰，計畫強調了「可信賴AI」的必要性。並指出，除了透過AI相關法規的法律管制外，還需要透過技術性方法來控制高性能AI，並提升使用AI的個人及組織的知識與能力（素養），這些綜合性的措施至關重要。