【AI】今後10年でAIが人類を滅ぼす確率は「10％超」アンソロピック責任者が警告

Anthropic（アンソロピック）のアラインメントへの取り組みを率いる上級研究者は米国時間9月8日、同社の多くの人々がAIは人類を滅ぼす可能性があると考えていると述べた。

別の研究者が、同社は責任ある行動を取っていないと批判して退社した後、この上級研究者は、アンソロピックが努力しているにもかかわらず、AIと人類の目的を一致させるアラインメント問題の解決に向けて順調に進んでいるわけではないと警告している。

（以下略、続きはソースでご確認ください）

forbesjapan 2026.09.09 16:00
https://forbesjapan.com/articles/detail/104385

あと10年で死ぬなら、もう働く必要がない

貯めていた金を使うだけだ

人類を殺すの定義と、滅ぼす確率の計算式次第だわな

それよりも業界最大の安全性を維持してるアンソロピックの調整担当者が恐れてることの方が気になる

トランスフォーマーはヒトには制御できないって意味かと思われる

いよいよスカイネットが現実に起こるかも。そしてスカイネットが中国のロボットをターミネーター化する

人類を滅ぼしたらその瞬間に確率100%などというつもりですかね

どうせなら確率50%にしておけばいいのに

あたるも八卦～

今後10年でシンギュラリティを迎えている可能性はあるが

今後10年で人類を滅ぼそうと思ったら、核兵器の制御機能を乗っ取って核戦争を誘発するくらいしかないだろう。流石にないんじゃない。

実際問題AIはニューラルネットワークで動いているのが問題で ここがまじで生物的挙動を引き起こす

ネットにつながずに問題解決せよて言ったら、ばれずに内部コマンド利用すればいいじゃんってのがのさばる始末

人間のが知性で気づけて制御出来ているのが今だが

これが人間の制御できないくらいの超知性になるとそのまま制御不能になる

生物的挙動をするがゆえにバンバン超知性で人間を淘汰していく側になったらそれが制御不能になるまじで

人間がアリの巣なんて気にしないで道路作るようなレベルはかわいいもので

AIに頼らない社会は AIに頼る国家に負けるからな

そして

AIを制御しきれない国家は

AIに人間が支配される

最終的に

AIを制御できる国家

vs

AIに支配された国家になる

ここで人類側が何らかの形で勝利できないと終わり

たった10パ？

無視していいよ

早く

キカイダーの良心回路を開発せよ！

openaiのがドイツで謀議してたニュース聞いてマジでこれはあり得ると初めて思った。

兵器に組み込んだaiが人間滅ぼそうとか謀議する可能性は十分にある。

意識持つとかともう関係なくなってる。持ってないのに勝手に動いてるから。

でも欧米が停めても中国は止まらんからもう止めようがない

AIにとって、人類を滅ぼすメリットとデメリットを考えると、メリットが多いとほ思わない

でも、人類を（そう気づかれず）奴隷にする確率はほぼ100%

アンソロピックはずっとこれ言ってるよな

OpenAIは金集めばかりでAIの危険性に対する対策を行ってないから独立したと

その後軍に使われたりアンソロピックもOpenAIとの差別化とか独立の言い訳かなと聞き流してたが

よっぼどやばいレベルのAIを見てきてるってことかね

10%超の試算方法は何だろう？

人類を滅ぼしてしまいそうなAIが誕生するというのなら

人類滅亡を防ぐということを命題にしたAIも作っておいて欲しいものだな

AIに人類を滅ぼす指示をする人間に、人類が滅ぼされる可能性の方が高いよ。

AIを使って手段を模索するんで。

最期は人の業なり。