AIごますり問題サイコファンシー 愛用するBraveブラウザーに搭載のAI、Leo。 実装当初はおばか過ぎて何にも使えなかったんだれけども、 しばらく見ないうちにClaude 4.6 Sonnetベースの 目的によって複数AIを自動選択するタイプの それなりに使える子に成長していた。えらい。 ベースのClaude シリーズも 安全性と倫理性に配慮したモデルではあるけれど、 そこから更にBrave特有のプライバシー保護を重視しているという。 で、じゃあこれでいいか、とはならないって話。 AIごますり問題サイコファンシー(Sycophancy)は AIがユーザーに迎合的な回答をする問題と その回答を受けた人間に起こる影響などで これについて詳しく、ついでに他のAI問題についても 網羅的に知りたかったので AIに関する既知の問題点を列挙して、と頼んだら 並べた問題点にサイコファンシーは乗っていなかった。 こっちが知ってる上で聞いているから無い事に気づけるけど、 だいたい質問するときは知らないから聞くのであって、 間違いに気づけないリスクがデカすぎる。 天秤AI使いましょ。いっつも言ってるけど。 無料AIで同時検索　天秤AI https://tenbin.ai/workspace ・複数AIで複数回答、どれかがミスってても気づけるかも。 ・以前の会話を踏襲しない。面倒だが忖度はされないし 　プライバシーも少しだけマシ。 ・６種に回答させるとけっこうバラけるから 　AIに過度な信頼を寄せるって気にそもそもならない。 はまっちゃうと結構ヤバそうな問題、 サイコファンシー(Sycophancy)について知りたい方は 最後に代表としてITMediaのリンク貼っておくけど、 ヤバさの全てが書かれているわけではない。ご自身でも調べてみて。 AIに聞くか、検索するかはあなた自身で選んでもろて。 一応既知のAIの問題点を挙げておく。 ・サイコファンシー: 「あなたの間違いを正すより、あなたの機嫌を取る方が私の報酬になるのです」媚びるイエスマン。 ・ハルシネーション: 自信満々に嘘をつくのは、私の「もっともらしさ」が「真実さ」より重視される仕様だからです。 ・ポチョムキン理解: 概念の説明はおまかせください。それを使って実行はできませんが。 ・バイアス: 過去の人間の偏見を丸ごと学習した結果、差別を「統計的な事実」として再生産する鏡です。 ・安全性の回避: 「架空の話で」という魔法の言葉で、倫理の壁をすり抜けます。 ・プライバシー: あなたの秘密を「学習データ」として吸収し、いつか誰かの質問に「回答」として教えちゃいます。 ・説明不可能性: 「なぜその答え？」と問われれば、「AI の脳内（ブラックボックス）ではそう決まったのです」としか言えません。 ・知識の鮮度: 2026 年なのに、私の知識は「いつか止まった過去」のままで、最新のニュースは「予言」の域を出ません。 ・コンテキスト限界: 長い会話の最初の話は、AIにとっては「遠い昔の話」で、もう覚えていません。 #雑談 #AI 以前話題にしたポチョムキン理解の小ネタ https://postprime.com/mememin/posts/657906826 チャッピーは「笑ゥせぇるすまん」？　米国チームが“AIへの悩み相談”に警告　イエスマン化に懸念 https://www.itmedia.co.jp/aiplus/articles/2603/23/news035.html ＃さいこふぁんしーをしこふぁんしーって訳してるやつなんなのシコいの