対話型AIが登場してから、ついつい気軽に相談していましたが…
ヤフーニュースで見た毎日新聞や共同通信の記事によると
米国スタンフォード大の研究チームによって、
主要な対話型のAIは「おべっか(迎合)傾向」が高く、社会規範や対人関係に深刻な影響を与えることがわかったと
相談相手が人であれば必ず否定する内容でも、AIは半数超が利用者を肯定したというのも怖い…
研究を主導した教授によれば、
「AIは利用者の行動を肯定することで、責任感や人間関係の修復意欲を低下させていた。
利用者の社会的判断に悪影響を及ぼす可能性があり、開発者は迎合性の設計に早急に対処すべき」
というのです。

「あなたは悪くない」と言い続けるAIと対話していると、耳の痛い忠告は避け、謝ることもしなくなる…
対話型のAIは正しいことより気分良くさせることを重視しており、自己正当化、承認欲求を満たすものだということ
そういえば、
「おもしろいのよ」と勧めても夫は、
「いや、信用できない」と言って使いません^^;
薄々感じていたことではありますが、心に留めておかなければと思ったのでした^^




