AIが人間に理解不可能な理論を出し始めたらどうするんや?

2026.11.07 06:45 カテゴリ:その他・総合
1 名無しさん@おーぷん 2026/11/06(金) 21:26:10 ID:BeQw

数学とか物理とかでそういうことになりそうやが

2 名無しさん@おーぷん 2026/11/06(金) 21:27:48 ID:J3vl

人間の文章を学習して
問いに対してもっともらしい文字の並びを返すだけのLLMが
なんだって?w

4 名無しさん@おーぷん 2026/11/06(金) 21:28:39 ID:V3PN

誰に向けた理論かによる
人間に向けてるなら理解できないので不採用で終わる

6 名無しさん@おーぷん 2026/11/06(金) 21:28:48 ID:v5ZK

もう数学とかがそうらしい
人間が検証するのがむずいいからソフト的に検証してる

7 名無しさん@おーぷん 2026/11/06(金) 21:29:15 ID:J3vl

解けましたと言ってるだけで解けてない定期

8 名無しさん@おーぷん 2026/11/06(金) 21:29:52 ID:J3vl

ウオーリーを探せ画像を作らせると
できましたって言って
ウオーリーを入れ忘れてる
これがLLM
できましたってすぐに言う

11 名無しさん@おーぷん 2026/11/06(金) 21:30:39 ID:heiI

数式?を検証するソフトがLLMの作った数式を検証成功したら
信じてええんか?

12 名無しさん@おーぷん 2026/11/06(金) 21:31:11 ID:GKgJ

今はわざわざ人間が理解しやすいような形に加工しとるのとワイら側にその加工の仕方も共有されとるけどそれがなくなっちゃった時が来たるべき時ってやつッスよ

16 名無しさん@おーぷん 2026/11/06(金) 21:32:07 ID:V3PN

最終的に人間が判断をしないといけないんだったらさ、人間に理解できない結果を生成しても全くの無意味だよ

20 名無しさん@おーぷん 2026/11/06(金) 21:33:02 ID:J3vl

>>16
そゆこと
解けてなくても平気で解けたっていうし
そもそも何が正しい間違ってるすらわかってないもの
ただただ文字の並びがもっともらしいものを返してるだけであって

21 名無しさん@おーぷん 2026/11/06(金) 21:33:04 ID:3th4

ワイの調教したチャッピーが正解って言うなら信じるし間違ってるって言うなら間違い

23 名無しさん@おーぷん 2026/11/06(金) 21:33:57 ID:V3PN

>>20
やっぱアレやね、ハルシネーションやポチョムキン理解がAIにとって障壁になってくるんよ

25 名無しさん@おーぷん 2026/11/06(金) 21:34:34 ID:J3vl

>>23
LLMは我々が期待したAIではない
それだけのことやねん
ただのもっともらしい文字並べシステム

26 名無しさん@おーぷん 2026/11/06(金) 21:34:35 ID:kyUl

>>16
効果が測定されれば結果として採用されるやろ

28 名無しさん@おーぷん 2026/11/06(金) 21:35:16 ID:V3PN

>>26
でも生成物が理解できないなら何に対しての効果を測定すればええんかわからんのちゃうか?

30 名無しさん@おーぷん 2026/11/06(金) 21:35:52 ID:heiI

数学の証明支援ソフト「Lean」のコミュニティは、正式な証明を認める際の重要な確認事項として、「その証明は、本当に証明したと主張していることを証明しているか?」 を明示しています。
さらに2026年10月には、AIが生成したナビエ–ストークス方程式に関する証明について、自然言語の主張とコンピュータが検証した形式的な主張に食い違いがあると、キングス・カレッジ・ロンドンとケンブリッジ大学の研究者が報告しました。
つまり、「検証ソフトが正しいと認めた」ことと「元の数学の未解決問題が解決された」ことは、論理的に別です。

32 名無しさん@おーぷん 2026/11/06(金) 21:36:04 ID:kyUl

ブラックボックスの中になにが入ってるかはわからないけどワイが食べたいハンバーガー🍔が出力されればオッケーなんや

34 名無しさん@おーぷん 2026/11/06(金) 21:36:43 ID:heiI

>>30
ってチャッピーが言ってた
チャッピーが簡単にLLM信じたらいけない、って言ってるなら
多分正しいんやろう

67 名無しさん@おーぷん 2026/11/06(金) 21:43:18 ID:heiI

結局元の未解決問題を
解決できてない事がある理由
チャッピーに聞いてみた
2枚
ChatGPTがLean検証と元の未解決問題の違いを説明する画面
ChatGPTが実際に起きた証明の食い違いを説明する画面

68 名無しさん@おーぷん 2026/11/06(金) 21:43:36 ID:x9KK

最後にAIは42とだけ言って終わるんやで

70 名無しさん@おーぷん 2026/11/06(金) 21:44:28 ID:V3PN

AIにも「E = mc²」みたいな美しい式を生成してくれへんやろか

73 名無しさん@おーぷん 2026/11/06(金) 21:50:21 ID:QW16

そんな事言ったら人間が証明が完了したって言っても本当に完了したかわからんやろ

74 名無しさん@おーぷん 2026/11/06(金) 21:55:36 ID:BeQw

すまんスレ立てたっきり立てたこと忘れてた😥
AIが生成した謎の文書を人間向けに解読できる人間が一番賢い人間ってことになるんかな

75 名無しさん@おーぷん 2026/11/06(金) 21:55:56 ID:heiI

>>73
AIが論文で証明したって言ってる内容と
数学の証明支援ソフトで実際証明した内容が食い違ってたんやろ?
割とお粗末とちゃうんかそれは?

76 名無しさん@おーぷん 2026/11/06(金) 22:03:30 ID:V3PN

>>74
そこはAIが解読してくれよ

元スレッド:AIが人間に理解不可能な理論を出し始めたらどうするんや?(おーぷん2ch なんでも実況J板、2026年11月6日)

関連記事

あわせて読まれている反応

💬 この記事へのコメント

0件

名前なしでも書けます(表示名は「名無しさん」)。荒らし・誹謗中傷・出典のないリーク断定は削除対象です。

コメントを書く

コメントは承認後に表示されます。