AIが生成した文章をそのまま使うリスク

パーパス／経営をもっと身近に、もっと確かに。経営コンサルティングのスプラム
English | 中小企業の生成AI活用講演

▲東京での情報セキュリティ講演です

私は全国各地で中小企業の生成AI活用に関する講演やコンサルティングを行っているが、よくある質問は「生成AIが描いた画像の著作権」についてだ。根拠を示して説明すると安心する経営者が多い。

文章や画像の著作権以外にもリスクはある。それは生成された文章を鵜呑みにするというリスク。部分的に間違っていることを理解せず、100％正しいと思い込み、その情報に基づいて経営判断してしまうリスク。この判断ミスが経営者によるミスであった場合には経営損害は大きい。

「生成AIが間違った回答をすることがある」と認識するためには、例えば、自治体の首長の名前を質問してみるとよい。その生成AIが学習した情報が古かったり、似通った自治体名と混同してしまったりすることがある。

経営に当てはめれば、古い情報を生成してしまったり、似た技術名と混同してしまうことになる。