Gensparkのファクトチェックで分かった弱点

パーパス／経営をもっと身近に、もっと確かに。経営コンサルティングのスプラム
English | 中小企業の生成AI活用講演

▲青森県での中小企業組合向け生成AI活用講演です

【Gensparkのファクトチェックで分かった弱点】作成 中小企業診断士 竹内幸次

AI検索やデジタルクローン等、生成AI分野は次々と新しいサービスが登場している。自社事業への浸透を試みているうちに、また次の新しい生成AIが登場する。この連続だ。

Genspark／ジェンスパークの個性はファクトチェック機能だ。「AはBである。」等の命題を指定すると、数分後にファクトチェック（真偽性の検証）をしてくれる。

Genspark／ジェンスパークを利用して多くのファクトチェックをしたが、気づいたことがある。それは「AはBである。」が真だとする根拠は、まさに「AはBである。」という情報がネット上に数多く存在するということ。「AはCである。」という情報量や質と比較したうえで、「AはBである。」このと真偽性を判断しているのではない。

我々はこの、BとCの関係を理解し、Bでなければ必ずCなのか、BであってCでもある、のか等を理解してく必要がある。

Genspark／ジェンスパークのファクトチェック機能をそのまま鵜呑みにしてしまうリスクは大きい。偽情報リスクをヘッジするためにGenspark／ジェンスパークを使うものの、そのGenspark／ジェンスパークの真偽判断を鵜呑みにしてしまうリスクがある。