「AI Slop に気をつけよう」便利さの中で考えたいこと
はじめに
みなさん、こんにちは。しくみ製作所の穂積です。
今回は AI を使っていると問題になってくる Slop について記事を書きました。AI を業務に取り入れる場面が増える中で、最近特に気になっているのがこの現象です。本記事では、AI Slop が何を指すのか、なぜ問題なのか、そして開発現場でどう向き合っていけばよいのかを、自分の体験を踏まえながら整理してみたいと思います。
AI Slop とは何か？
AI Slop とは、AI が大量生産した雑で中身の薄いコンテンツが溢れる問題を指します。最近ではブログ記事や SNS 投稿だけでなく、開発現場のドキュメントでも発生していると感じています。
AI Slop の何が問題なのか？
まず気になるのが、一定確率で誤情報が混ざってしまう点です。AI は誤った情報でももっともらしく出力します。一見自然な文章のため、誤りを検知しにくいのが厄介です。
もう一つの問題は、情報密度が下がることです。AI は「それっぽく長い文章」を作るのが得意で、本当に必要な情報が埋もれてしまいます。例えば、同じ内容を表現を変えて繰り返したり、「適切に管理する」「考慮が必要」といった抽象表現が増えたりするのが典型的なパターンです。
開発現場で自分が体験している AI Slop
特に困るのは、要件定義書が AI Slop に陥ったときのレビュワーの負担です。誤情報が混ざっている可能性を排除できないため、「どこまで正しく、どこから怪しいのか」を常に疑いながら読む必要があります。さらに情報密度が低いため読むコスト自体も高く、機能要件を整理したい段階なのに非機能要件まで長々と書かれてしまうなど、注力箇所以外の情報がノイズとして入ってきてしまいます。
そして、Slop な要件定義書をそのまま開発に渡すとロールバックコストが高くつきます。
開発開始後に誤りが見つかると影響範囲が大きく、要件定義からやり直しになることもあります。
AI によって作成コストが下がった反面、後工程に負債を押し付けやすくなっている点には気をつけなければいけません。
どうすれば AI Slop を防げるのか？
基本は、AI に依頼した人が責任を持ってレビューすることです。誤情報が含まれていないかを確認する。それに尽きます。ここで強調しておきたいのは、AI を使うこと自体は悪いわけではないということです。AI はドキュメント作成の初速を大きく上げてくれますし、叩き台を作る用途として非常に便利です。問題なのは「生成された文章をレビューせず、そのまま流通させること」であり、情報の裏取りとわからない部分の理解を深めることが大切だと考えています。
あわせて意識したいのが、情報密度を意識して不要な箇所を削ることです。「長い = 良いドキュメント」ではありません。そのタイミングで必要な情報だけを書き、今決めるべきことに集中する。この姿勢を持つだけでも、ドキュメントの質は大きく変わります。
まとめ
AI にドキュメントを作ってもらうこと自体は悪いことではありません。ただし、AI は「もっともらしい文章」を大量生成できてしまうため、その結果として誤情報が入ったり情報密度が下がることがあります。特に開発ドキュメントでは、AI Slop が後工程のコスト増加につながりやすい点に注意が必要です。AI の出力を鵜呑みにせず、人間が責任を持ってレビューしていきたいですね。
ちなみにこの記事も AI を使って作成しました。もちろん、本記事の主張どおり、筆者が責任を持って十分にレビュー済みです。……たぶん。