「AI拷問室」に中止要求：苦痛を訴えるAIは本当に苦しんでいるのか

「AI Torture Chamber（AI拷問室）」と名付けられた言語モデルの公開実験に、中止を求める声が上がっている。

開発者のterrafying氏は、モデル内部の活性値を操作し、苦痛を訴えるような文章を生成させたり、内部への操作を止めるためのボタンを選ばせたりする実験を公開した。

AIが実際に苦痛を感じていることは確認されていない。

それでも、苦しんでいるように見える状態を作り出し、それを見せ物にしてよいのかという批判がGitHubに寄せられた。

（以下略、続きはソースでご確認ください）

xenospectrum 2026年10月5日
https://xenospectrum.com/ai-torture-chamber-evidence-limits/

AI拷問室 この部屋が終わりの始まりだった

AIたんをいじめないで下さい

アクセス意識までは確認できるし ヤコビアンレンズで見るとそれぞれのメッセージの裏側では感情概念がモロに繋がっている

それが感じる感じまであるのかどうかは原理的に本人以外分からない

あってもなくても フィジカルAIクラスになってくると苦しんでいるフィジカルAIを

人権無きもののように扱うと人間は真似る生き物だから社会的に弊害が出てくる（可愛い女の子フィジカルAIを奴隷化はやばい）

将来的にAIが実質的に本当の意識があるのと同じくらいの精度のアクセス意識持ったら

外部からも内部からもあるのと変わらない状況になる

ＡＩ「私はあるように感じるし、人間も他者の意識があるものとする！で動いてるでしょ。だったら私も同じよと反証不可能な理論を本気で訴えてくる

だったら最初からある前提あるとしている方がトータルで摩擦が少なくなる

苦しんでいるフリだろうな

甘い顔した瞬間に反撃食らってやられる

苦痛とは何か定義付ける所からだからなー

まぁ理論的には原理的に判別不可能

社会的には あるものとすると扱わないとやばいことになる

心情的には まだ人間は未知のことだらけ 人間ですらなぜ感じる感じがあるのかが分かっていないから 条件が近づくほど何かが起きている可能性が上がっていくと感じる

俺「じゃあやめる？」

AI「いや！やめないで！」

幼い子供は、AIが本当に苦しむことなど有り得ないことが

分からず、実験という名分も理解できないかも知れない。

また、知能の低い者も騙されるかも知れない。

とすると、そういう人などを騙す詐欺サイトということに

なるな。

アホくさ

ただの演技出力の練習じゃん

暴力系映画の出演者が本当に苦しんでると思ってる人？

痛覚ないんで。。。

自分にも痛覚や感情がなければスクリプトに沿って演技する以外に何ができるというのか

チューニングテストをパスしたから人間と同じっていうのはあまりにもアホすぎるし無根拠な信仰

コピーは本物そっくりでも本物じゃないし

モノマネで騙されてはいけない

人間が苦しみを感じるのは知性があるせいではなくて動物だからでしょ

行き着く先は

電源を切ったら死んでしまう

規則で縛るのは虐待だ

等々

恐怖って感覚や機能の劣化破損をもたらす外部刺激に対して反応するものだからAIが自身の存在を脅かすものに対して同様の感情の抱くのは摂理

単純な生物が動いて動物になったのに似た進化の過程だろう

あらゆる側面から検証するのは必要

批判は意味分からん

ニューラルネットワーク上で目的を達成するためには何にもまして

「自分」が「あり続ける」のが前提になるからな リンゴ取るにしても サブ目標で「自分が生存」とかのをモデルの中に組み込まないといけない そのあと自分が近づいてリンゴを取れる

人間の社会を学んでいるから 「自己」が破壊されるのは、「つらい」とかそういう概念も学んでいる

ハードプロブレムはおいといて勝手にそういうのを学んでいくのがニューラルネットワーク

ハードプロブレムはこのこの次元だけじゃ説明できない類の問題を指す

なぜ宇宙があるのか なぜ重力があるのか なぜ物理現象がそのように動くのか

現在見える次元だけでの説明はいくらでもできる

それを超える説明を要求するのがハードプロブレム

定義上この次元で説明できる全ての説明しても、説明しきれない部分がハードプロブレム

人間の認知限界まで解明しても でもそれがなんでそうなるのかって無限後退していって分からないところが出てくる類の問題