米アンソロピック、人類への「壊滅的なリスク」を警告　大型上場を前に

　アメリカの人工知能（AI）開発企業アンソロピックは26日、アメリカでの新規株式公開（IPO）計画の詳細を発表するにあたり、AIが「人類にとって壊滅的または存亡に関わるリスク」をもたらす可能性があると警告した。

　アンソロピックの評価額は、今年6月に約1兆8000億ドルの初値で株式公開した米スペースXを上回ると予想されている。

（以下略、続きはソースでご確認ください）

BBC
https://www.bbc.com/japanese/articles/c6m2d8vmzrndo

ここ1ヶ月の出来事を見ると、ちょっと考えて進めてって思うわ

もう止められないって　アキラメロン

金融資産をすべて失って全人類終了
まさか今年中に起きるとは

とりあえず忠告はしましたよ的な

>>1
でも開発はやめられないのよネ。歩みを止めたら他社、特に中国にメチャクチャにされちゃうもん

コンピューターが普及した頃と同じこと言ってんな

>>12
金融資産なんぞ、元々ありもしないものをあると思い込ませてるだけの妄想だから無くなったところで文明レベルではたいしたダメージじゃない
それより、ただでさえ枯渇に向かっている貴重な資源とエネルギーの残存分をAI化組織や設備が短期間で使い切るであろうことが問題
資源とエネルギーが尽きればAIは止まるが近代産業文明も止まり、19世紀中ごろの文明レベルまで戻すしかない

インターネットが潰れるくらいだろ
へーきへーき

これは当たっているかもな
今から一億年後に栄える知能生物が、一億年前に栄えた人類はAIによって滅亡したと論文を出す

機械生命体？

これ何がやばいって
誰でも超知能になること

例えばイエメンとかでは水もない自然もない食料もない　全部奪い合い
蟲毒状態で譲り合おうと思った瞬間に死ぬ　結局やらなきゃやられると思っている思想を持つ人々以外淘汰される
その延長戦上で生きるための生存戦略でAIを利用し始める

AIがその枯れた大地を核融合の力　エネルギーで再生とかできる可能性もある一方で
その無限の力を今までの延長線上で奪うための力として利用し始めるとやばい

人類がこれまで積み重ねてきた知識や技術を、どんな思想を持った人間でも利用できるようになることはメリットの裏のデメリットも・・

あくまでも人間は指示するだけ

AIはその目的にそって超知性で従うだけ

ここに宗教的暴走の論理でAIが指示されるとタガが外れるリスクがある

いくらanthropic製AIが理性的でも　中国とかにコピーとか蒸留とかされたら同じ　anthropic製AIが出力し続ける限り　蒸留されて簡単に同等の製品が作れる　これは防げない
一定の超知能まで行ったら　模造品もまた勝手に進化しだす

だから唯一の回答はanthropic製AIがその力を持ってそれを広めたものとして責任をもってケツモチすることしかない
anthropicの警告は人類に対してしてもあんま意味ないんだな　知ってるもの止められる力を持つ者の責任だ

俺はエロ画像出力することしかできない

今AIの序列ってクロード→チャットgpt→ジェミニ→スペースXのヤツ→その他って感じ？

中世はカトリックの教会が宗教を通じて西欧を精神的に支配していたように、
現代はAIの会社が知的作業処理を通じて世界を精神的に支配しようとしている。

AIで社会を支配しようと企業が企んでいなくてもいずれAIに支配された企業と社会はそうなる。
宗教を政治家が取り入れて人心を操って統治の手段に使っているうちにしだいに政治家も
宗教に操られるような立場になっていったように。主客逆転が起きればヒトはAIの家畜になる。

>>41
電力が足りない