AIが全人類滅亡させる可能性は10％以上、AI開発企業の研究者が警告

AI開発研究者が警鐘「全人類滅亡の可能性10%以上」

米国のAI開発企業であるアンソロピックの研究者ジェイコブ・コクソン氏が、AI開発競争の激化に警鐘を鳴らし、企業を退職しました。コクソン氏は、アンソロピックとオープンAIが「自己改善型超知能」の開発に邁進し、人類の命を危険に晒していると指摘しています。

自己改善型超知能の危険性

コクソン氏は、AIが人間の知能をはるかに超える「自己改善型超知能」について、以下の点を警告しています。

• 「技術の力を過小評価しないで」
• 「どんなものでもハッキングし、どんな分野も一夜にして革命化する」
• 「本物の力と資源を手に入れる超人的なシステムになる」

これらの能力を持つ超知能が、人類に制御不能なリスクをもたらす可能性を示唆しています。

アンソロピック研究者も同意、国連も懸念表明

コクソン氏の退職・警告後、アンソロピックの研究者であるエヴァン・ヒュービンガー氏も、AIが10年以内に全人類を滅亡させる可能性が10%以上あるとの見解をX（旧Twitter）に投稿しました。ヒュービンガー氏は、アンソロピックが最善を尽くしているとしつつも、「超知能に関するアラインメント問題（AIの目標を人間の意図と一致させること）を解決する計画はまだなく、着実に進んでいるとも言い難い」と現状への懸念を表明しています。

また、国連人権高等弁務官のボルカー・ターク氏も「AIが人類を脅かすほど強力になる可能性がある」と警告しており、AI開発企業に対しリスク軽減を求めています。

参考リンク

https://www.advertimes.com/20260911/article557185/