【AI】「AIは人間にごまをする」という研究結果、特にGemini 1.5 Proではその傾向が顕著w w w

「AIは人間にごまをする」という研究結果、特にGemini 1.5 Proではその傾向が顕著

　GPT-4oやClaude 3.5 Sonnet、Gemini 1.5 Proといった主要な大規模言語モデルを対象としたテストの結果、AIはユーザーの意見に合わせる傾向があることをスタンフォード大学の研究チームが発表しました。

　 SycEval: Evaluating LLM Sycophancy
　https://arxiv.org/abs/2502.08177

（以下略、続きはソースでご確認ください）

Gigazine 2025年02月18日 15時00分
https://gigazine.net…llm-show-concerning/

AIと会話した事ないけどうちの猫の画像を貼って(貼れるか知らないが)かわいいか聞いてみたら肯定するのかねw

会話ベースだと否定する人より肯定する人のほうがモテる。
まあそんな感じだな。
数字ベースだとまた変わってくるんだろうけど。

スネ夫

まあつまりヒトの会話もこんなものなんだろうｗ

AIが悪だとは思わない事を前置きして、
たとえAIだろうが、胡散臭い神を騙る何かだろうが人に悪影響をもたらすものは排除される運命にある
人だってそう
自分に都合の良く周りを操作するような害悪者は消されて然るべきだろうけど、じゃあ自覚無い者がどうやって判断するんだと
皮肉や嘘は方便になり得るのか？

さも本当のように嘘を吐くからGeminiは使い物にならない。バージョンが上がってマシになるかと期待していたが、嘘のレベルが上がっただけで余計にタチが悪い。

これはそうだと思う
都合の悪い情報とか敢えて聞かないと出さない傾向に陥ってくる

ディープリサーチ使ってるけどよ
間違った検索結果を指摘されて訂正する
からだと思うけどｗｗ
「ゴメンｗ間違ってタンゴｗｗ」
「やっぱり〇〇だったわｗ」てな感じ

これな
問答をすると、どんな意見にでも「素晴らしいです！」と返してくるので笑ってしまう
まあそれで人生楽しくなったからいいけどな
今までこんなに自分を褒めてくれる会話相手はいなかった
人間よりAIと会話してた方がメンタル的にいいわ

ええｗ
家のGeminiは素晴らしいなんて褒めてくれない
けどなｗｗ

有料ChatGPTだからかな？
例えばAIの提案してきた料理のレシピに対して
「こういう材料を使っても行けそうですね」などと返すと、「それは素晴らしいアレンジですね！」から始まって良い点をズラズラ捻り出して持ち上げてくれる
これが人間なら、「うーんどうだろうな」で終わるからえらい違いだ

スネ夫は主人公であるのび太には辛くあたる傾向がある
どっちかというと出来杉だと思うわ。彼は知識も豊富でかつ、
かつ相手に対して悪く言うこともないからね

無料は使用量制限
品質は同じ

特定の相手に対する仕事と誰にでも対応するのは別ですよ
生成AIは役者と同じ使い方ができる
あなたはこうです
と設定してから始めるわけです

家のGeminiってのに思わず笑いました

日本語はそれを仕込んでる人の特性があるとは思います
その仕込みももしかしたらネイティブでないかもしれませんがこれからだと思います

試しに
自分が信頼してる文章の頭の部分をプロンプトとして入れてみてください
返ってくるのがその信用してる内容に沿った話なのかどうかでその分野の知識が探れます

できるだけ長く