開始後１か月でキャンペーンが終了　生成AIで書いた記事に批判が集まったワケ

入力したテキストをもとに、画像や文章などを簡単に生み出すことができる『生成AI』。

簡単な作業で、精度の高いデータを大量に作り出すことができるため、便利ですよね。

ビジネスでの活用も進んでいますが、その手軽さゆえに、トラブルに発展するケースも増えているといいます。

生成AIで作った記事に『誤情報』

話題になったのは、株式会社ファーストイノベーションが運営する、福岡県の魅力発信を目的とした、官民連携の地方創生キャンペーン『福岡つながり応援』。

２０２４年１１月上旬、ウェブサイトで掲載された記事に、多くの誤情報が含まれていたことが明らかになったのです。

同月７日、同キャンペーンはXアカウントを更新し、誤った情報を発信したことを謝罪。

投稿されたポストには「インターネット上の情報をもとに生成AIを活用してメディア記事を作成し、人的確認のうえ発信してまいりました」と説明。今回の一件を機に、記事の全削除をしたと報告しました。

わずか１カ月でプロジェクトが終了

『つながり応援プロジェクト』は、地域の活性化とそこで活躍する団体への寄付を目的とする、官民連携のプロジェクト。

『福岡つながり応援』は、同月１日から始まったキャンペーンで、ウェブサイトにはSNSのキャンペーンのほか、福岡県の観光やグルメ情報を紹介する記事が掲載されていました。

しかし、実際の記事では、実在しない観光名所や飲食店のメニューなどの情報が記載されており、これに気付いた多くのネットユーザーから批判の声が相次ぐ結果に。

同プロジェクトのXアカウントは、上記ポストのリプライで「生成AIでのメディア作成は一切行いません。また、人的な作成に関しましても、本件を真摯に受け止め、メディア自体の運営を慎重に検討させていただきます」と追記しました。

ですが、同月２８日、同キャンペーンのウェブサイトが更新され、３０日付でプロジェクトを終了することが明らかになりました。

当初、『福岡つながり応援』は、２０２５年１月末までの開催予定でしたが、開始からわずか１カ月でサイトを閉鎖する運びとなってしまったのです。

生成AIは誤った情報を作りやすい？

『福岡つながり応援』に関する一件で、多くの人が「生成AIの扱いがずさんすぎる」と指摘。

記事制作のフローやチェック体制に疑問を浮かべる声が集まっています。

生成AIは便利である反面、汲み取った情報やデータを誤読し、あたかも正確に見える誤った情報を生成することがあります。

『ハルシネーション』と呼ばれる、この現象が多発すると、誤った情報がネット上に拡散され、さまざまなトラブルの原因になってしまうでしょう。

『福岡つながり応援』の事例に当てはめると、記事を読んだ人々に混乱と不信感を与えるだけではなく、福岡県全体のブランドイメージを損ねてしまう可能性があるのです。

『生成AI＝悪』という認識は間違っている？

批判の声が集まる一方、「『生成AI＝悪』という認識は間違っている」という意見も見受けられました。

生成AIを有効活用すれば、情報のリサーチやコンテンツの制作スピードが上がり、短時間で良質なコンテンツを作りやすくなるでしょう。

技術の進歩に適応し、新しいビジネスのやり方を取り入れることは、問題ではありません。

しかし、現状の生成AIは、まだまだ事実とは異なる結果をもたらすことが多く、実用化するためにはどうしても人間の目が必要になります。

そういった意味では、『福岡つながり応援』の事例は、生成AIを活用するうえで気を付けるべき、ひとつのモデルケースになったかもしれません。

生成AIをめぐるトラブルは、今後も発生することが予想されます。

生成AIに翻弄されるよりも、上手く使いこなして、より便利な社会を目指していきたいですね。

---

[文・構成／grape編集部]