不正アクセス急増背景に“中国製LLM”台頭、AIが自動で偵察→侵入→情報奪取「情報漏れていない人の方が珍しい」専門家が警鐘、対策は?

10/18(日) 17:00配信

テレビ高知

不正アクセスによる個人情報の漏えいが全国で急増していて、サイバーセキュリティ専門家は「日本国民で情報が漏れていない人の方が珍しい。100％防ぐことは困難だ」と指摘します。こうした中、私たちはどんな対策を講じるべきなのでしょうか。

■全国で急増、個人情報の漏洩…自治体防災メールでも大規模被害か

企業や行政・公的機関を狙った不正アクセスによって、個人情報が外部に漏えいしたり、漏洩した可能性があったりする事案が、ここ最近、急増しています。

10月14日には、自治体向け情報配信サービスを運営する大阪のIT会社「アルカディア」への不正アクセスによって、全国の自治体や公的機関の防災メールサービスなどで、大規模に個人情報が漏えいした可能性が明らかになりました。

なぜ今、こうした「不正アクセス」事案が急増しているのか、専門家に取材しました。

■なぜ今、不正アクセス急増?専門家が指摘「生成をAI悪用」

サイバーセキュリティを専門とする「VLCセキュリティラボ」の代表取締役CEO・中本有哉さんは、次のように指摘します。

中本有哉さん（サイバーセキュリティ専門家）

「サイバー犯罪者が『生成AI』を活用することが、普遍的になってきた」

こうしたサイバー犯罪者が、「ある特定の生成AI」を使うことで、サイバー攻撃・不正アクセスが容易になってしまうといいます。

中本有哉さん（サイバーセキュリティ専門家）

「アメリカの企業が開発した『Claude』や『ChatGPT』などの生成AIは、ユーザーが『危険な指示』をした場合『危険なことはできない』と応じる。ところが、中国の企業が開発したLLMは、『攻撃の指示』をそのまま受け取り、実行してしまう」

■「攻撃」の指示をそのまま実行…「中国製LLM」が9月以降の騒動に起因か

続きは↓

https://news.yahoo.co.jp/articles/2c807564e567a7a66e8718bce6ebd38538c605e8

あっさり中国ってばれてるのホントダセーなw

Qwenはそもそもネットアクセスできないけどね。そういう機能がない。有料API使えばできるはずだけど
ちなみにアメリカの大御所LLMは全てデフォでオンになっている

一億人の情報が漏れたということは、漏れてないのとかわらんな

AIを一番活用してるのは中国人か

本日の知ってたスレ

もうLLMでも中国勝ち確だからね。アメリカ企業すら中国使ってる。でも、報道は反中。日米貿易摩擦の時と一緒

ただどこまでが中国の独自開発なのか

中国は最新機材が制限されてるからこそパワーに頼らないLLMを発展させていたとも言える

中国のローカルLLMでこれだからもう終わり

kimiって書けよ

中国製AI覇権やん

中国からのアクセスを遮断すれば解決

とにかく メアドをIDにするのは法律で禁止させろと(´・ω・｀)

>>28
かんたんに経由できるわな

>>31
不正アクセスで流出しても何の責任も負われないから

サプライチェーンリスクに触れない時点でこの専門家も三流くさいなあ

中国のアクセス切れや

日本も中国にハッキング仕掛けろよ
金盾すり抜けて六四天安門の映像を貼るとか

>>37
他の国のサーバーを踏み台にしてくるだろうから中国だけ弾いたところで防げないだろうな

中華AIは善悪なんか気にしない最悪の犯罪AI
つまり中共も気にしないw

中華でも違法な用途の指示は拒否してくるけど
ローカル実行の話？

>>48
別に中国人がやってるとは限らん
誰でもインストできるんだから

>>25
マジレスするとQWENだと思う。ローカルで強いのはQWEN。

>>61
いややれよ

AIも親に似る

AIエージェント同士のバトルが始まる
相手PCのエージェントを消した方が勝利

オープンソースで放流されている野良LLMだから使用者は中国人とは限らな

>>96
最近はメインメモリも効率よく使えるようになっているんで、割と賢い大規模モデルも普通のPCで動く

>>95
＞ローカルLLM が何なのか、 ネット接続無し。完全にダウンロード出来るローカルで動くAIと解釈して良いと思う。
＞誰が作って公開してるのか、
色々な所が公開してる。googleとかも公開してる。ロースペック環境で動く、スコアが高いAIは中華製が多い。
＞何が問題なのか
ハッキングする側の学習コストが下がった。ハッキングツールが容易に作れる様になった事が問題だと思う。