ローカルLLMなら外部通信しなければ安心かと思いきや
「中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明」GIGAZIN
仕事柄外に出せない情報は多いので、サーバーで動作するAIに投げれる作業は極々限られているのでアソビにしか使っていないわけだけれども、
手元で使えるなら試したい事はまぁ山ほどある。
完全にスタンドアローンで動作するPCにローカルLLMを…
と思っていつつ、アップデートなどの必要で
ネットワークに繋いだとたんに…なんてことが起こりうるよな
とは思って試せずにいたのだけれど、
やっぱりか といった感じ。
現時点では意図的ではなく学習時のクセの混入
ノイズ的なミスではとは言われるものの
理論的にありうることが実際に起きたので
やはり通信を遮断するなり監視するなりの技術を
しっかり持った上でか、完全スタンドアローンで
で無いと安心しては使えないのう。
技術的には興味あるから触れていたいけど
アソビに限定だわ。
ぐぬぬ
https://gigazine.net/news/20261027-concerning-behaviour-open-weight-ai-model/