生成AIとプロパガンダ
―― 高度な偽情報にどう対処するか
2023年5月号
チャットGPTなどの対話型AIは、人間が書いた文章かAIによるものかが分からず、大量生産が可能なコンテンツを安価に生成する能力をもっているために。プロパガンダに悪用される恐れがある。実際、AI生成プロパガンダでオンライン空間を埋め尽くせば、疑念の種をまき、真実を見極めるのを難しくし、人々は自分の観察さえ信用できなくなる。社会と共有する現実への信頼を失う危険もある。「こうした言語モデルのアクセスを誰が管理するのか、誰を危険にさらすことになるのか、AIに人間の会話を模倣させるのは望ましいのか」。政府、企業、市民社会そして市民は、こうしたモデルの設計や使用法、そしてそれがもたらす潜在的なリスクを管理する方法について、発言権をもつべきだ。