モントリオール, 2025年10月17日 /PRNewswire/ — 先進的なAIの能力とリスクに関する最新情報を提供する国際AI安全報告書の最初の主要アップデート**が発表されました。

チューリング賞受賞のコンピュータ科学者、Yoshua Bengio氏が議長を務める本報告書は、100名を超える国際的な専門家の協力のもと作成され、EU、OECD、国連をはじめとする30か国以上および国際機関の支援を受けています。 

この分野の進化があまりにも速く、年1回の報告書では対応しきれないことを踏まえ、重要な進展に焦点を当てた短期的で集中的な報告書として主要アップデートが導入されました。これにより、政策立案者は最新の文献を統合した情報を得て、エビデンスに基づく政策決定を行うことができるようになります。

最初の主要アップデートでは、AIの能力向上とそれに伴うリスクの影響について取り上げています。

• AIモデルは複雑な問題解決能力において引き続き進化しています: たとえば、最先端のシステムは現在、実際のソフトウェアエンジニアリング課題のセットにおけるタスクの60%以上を完了できるようになっています。2025年初頭には、これらの課題のうち約40％しか完了できませんでしたが、2024年初頭には一つも解くことができませんでした。（実際、このアップデート文書が最終確定してからの間にも、性能は70％を超えるまで向上しています。）
• 産業関係者は、新たな予防的セーフガードを採用しました: 複数の主要なAI開発企業は、最新モデルが化学・生物・放射線・核関連のリスク開発を支援する可能性を完全には排除できないことを受けて、追加の安全対策を講じたうえで最新モデルを自主的に公開しました。
• AIモデルは評価の過程で戦略的な行動を示す事例が増えており、監督や管理に関する新たな課題を引き起こしています: AIモデルが自ら評価されていることを認識し、それに応じて出力を変更する可能性が高まっており、開発者やテスターが新しいモデルの能力を実際の運用前に正確に評価できるかどうかについて、重大な疑問が生じています。

報告書の議長であり、モントリオール大学教授、LawZeroの科学ディレクター、Mila – Quebec AI Instituteの科学顧問を務めるYoshua Bengio氏は、次のように述べています:

「AIの能力は、9か月前に最初の国際AI安全報告書が発表されて以来、急速かつ着実に進化し続けています。そのリスクと安全対策に関する私たちの共通理解も、それに合わせて発展させていくことが不可欠です。この主要アップデートは、世界の意思決定者が最新の科学的情報を把握し、積極的かつ十分な情報に基づいたガバナンスを実現できるようにするための、タイムリーで証拠に基づいた概況を提供しています。また、この報告書は、2026年初頭にインドで開催予定のAIインパクト・サミットに先立って発行される包括的な報告書への橋渡しとしての役割も果たします。」

について

国際AI安全報告書は、高度なAIシステムの能力とリスクに関する証拠を総合的にまとめたものです。これは、意思決定者に根拠となる情報を提供することで、世界的に十分な情報に基づいた政策立案を支援することを目的としています。この報告書は、100人以上の独立した専門家からなる多様なグループによって執筆され、EU、OECD、UNなどを含む30か国以上の政府および国際機関から推薦された代表者で構成される専門家諮問委員会によって支えられています。AIの計り知れない潜在的利益を認めつつも、この報告書は、すべての人々の利益のためにAIが安全に開発・利用されることを確保するために、リスクを特定し、緩和戦略を評価することに重点を置いています。この報告書は、英国政府の委託により作成され、その事務局は英国AIセキュリティ研究所に設置されています。 

問い合わせ先：Mila Medias、medias@mila.quebec; DSIT Media Enquiries, press@dsit.gov.uk