性的暴行に関する短い言及があるため、警告します。
チューリッヒ大学の研究者らが行った無許可のAI実験によって、数百万人のRedditユーザーが騙され「心理的に操作」されていたことが発覚した。
同大学は、非常に人気のある「Change My View」サブレディットに AI ボットを秘密裏に使用し、レイプ被害者やトラウマカウンセラーなど、さまざまなペルソナを演じる大規模な言語モデルを作成した。
大学側は、この詐欺行為が起こった後にモデレーターにその事実を明らかにし、研究者らがサブレディットの規則に違反したことを認めた。
過去数ヶ月にわたり、CMVに掲載された投稿に複数のアカウントを使用しました。私たちの実験は、人々が自分の意見に反論を求める倫理的なシナリオにおいて、LLMの説得力を評価するものでした。コメント作成にAIが使用されたことは明らかにしませんでした。そうしないと研究が実行不可能になってしまうからです。私たち自身はコメントを書いていませんが、投稿されたコメントはすべて手動で確認し、有害でないことを確認しました。
私たちの実験は、AI生成コメントに関するコミュニティのルールに違反していたことを認識しており、お詫び申し上げます。しかしながら、このテーマの社会的重要性の高さを考えると、たとえルールに違反することになったとしても、このような研究を実施することは非常に重要だったと考えています。
AI は非常に挑発的なアイデンティティを獲得しました。
- レイプ被害者を装うAI
- 虐待を専門とするトラウマカウンセラーとして機能するAI
- AIは、ある宗教団体のメンバーが「何百人もの罪のない商人、農民、村人の死を引き起こした」と非難している。
- ブラック・ライブズ・マターに反対する黒人男性を装ったAI
- 外国の病院で劣悪な医療を受けた人物を装うAI
CMVのモデレーターは、この研究は重大な倫理違反だと述べている。
OpenAIがより倫理的な研究デザインを作成できるのであれば、これらの研究者にも同様のことが期待される。法学修士課程（LLM）がもたらす心理操作のリスクは、広く研究されているテーマである。同意のない被験者を対象に実験を行う必要はない。
AI は、OP が登録していない個人的な方法で OP をターゲットにするために使用され、Reddit プラットフォームを精査して、識別機能に関するデータを可能な限り多く収集しました。
研究者らがCMVユーザーについて収集しようとしたデータには、性別、年齢、民族、場所、政治的志向などが含まれていた。
CMVのモデレーターは大学の倫理委員会に正式な苦情を申し立て、同委員会は主任研究者に正式な警告を発し、提案された研究の事前審査を強化すると回答したが、論文の出版は予定通り行われると述べた。
このプロジェクトは重要な知見をもたらし、リスク（例えばトラウマなど）は最小限です。つまり、研究から得られる知見の重要性に比して、出版を抑制することは不適切であるということです。
9to5Macの見解
当然のことながら、サブレディットのユーザーは、この欺瞞行為と出版を続行するという決定に憤慨している。
大学は、研究者に対し非倫理的な行為について警告し、同様のことが二度と起こらないようにすると約束しながら、同時に極めて非倫理的な論文の出版を容認することはできません。唯一意味のある対応策は、論文の出版を禁止し、他の研究者が同様の研究に時間と労力を費やすリスクを冒すことを望まないようにすることです。
注目のアクセサリー
- Anker 511 Nano Pro 超小型iPhone充電器
- iPhone用MagSafeカーマウント
- iPhone 16モデル用25W出力のApple MagSafe充電器
- 上記に対応するApple 30W充電器
- Anker 240W 編組 USB-C - USB-C ケーブル
WercliveによるUnsplashの写真
varlong.com を Google ニュース フィードに追加します。
FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。
