更新日：
先日2024年10月1日に、公正取引委員会が「生成AIに関する情報・意見の募集」と題するパブリックコメント募集を行っておりました。話題の大半は独占的AI開発企業が公正取引に与える影響についてですが、１件異なる話題がありました。
公正取引委員会の作成したディスカッションペーパーより引用しますと「…例えば、（１）生成AIモデル市場において有力な事業者が、推論結果において、自社が提供する商品やサービスが他の商品やサービスと比べて有利に出現するように当該生成AIモデルを開発する場合には、当該商品やサービスに係る競争に影響を及ぼす可能性がある。」(生成AIを巡る競争
ディスカッションペーパー p.15「第3 生成 AI を巡る独占禁止法・競争政策上の論点 - 2
自社優遇」より引用)という話題提供があります。つまり「生成AI(チャットAI)によるステルスマーケティング」を公正取引委員会は懸念していることになります。
生成AIのダークパターンは、他にも様々な手法が考えられます。マイクロコピー手法を悪用して錯誤誘発する、サービス事業者に都合の悪い回答をする場合だけ曖昧な文章表現に切り替える、潜在的競合他社に非効率な解決手段を回答する、等です。機械に自我はありませんが機械に人間の悪意を実装することは可能です。
ダークパターンの精度向上にHCDプロセスを用いているという噂も伝え聞いております。いずれは「生成AIによるダークパターン複数提案→ABテスト自動化システムによる仮リリース→デジタル行動観察による効果測定→くりかえしによる精度向上」までを完全自動化することも可能であろうと考えます。HCD実践者としても看過できない状況であると考えております。
ダークパターンにご興味のある方は上述のパブリックコメント募集にぜひ投稿をお願いします。提出期限は2024年11月22日金曜18時迄です。
