ChatGPT の危険性

ChatGPTの解説書を読んでいたら、便利さとともに危険性についても書かれていた。

危険性の大きな理由は、AI技術の性質から ChatGPT がどのように文章を理解しているかは全くブラックボックスだということだ。入力の文章に対し、それがなぜ出力の文章を生み出すのかその経緯は全くわからない。

したがって、教育用のデータの与え方によっては、危険な思想や誤った情報が紛れ込むことが避けられない。ChatGPT が非常に危険な AI になったとしてもそれをきちんと把握することが難しいのだ。

どうやら、AI に任せればすべてはパラ色の世界が待っているということはないようだ。備えよ常にという心構えは避けられない。

また、AI による人間の作業の自動化と雇用の減少も起こるべくして起こるだろう。AI の性能が上がれば上がるほど人間の作業が不要になってくるだろうし、そのような傾向を押しとどめるものは何もない。

AI が吉と出るか凶と出るかは人間しだいだ。短期的な利益だけでなく長期的な展望も必要だ。

ChatGPTの文書処理がブラックボックスであるということは、その回答にも誤謬が紛れている可能性を常に意識していないといけないということを意味する。クリティカルな業務に使う場合、必ず Google 検索や書籍などで検証する必要があるだろう。