AIっぽい文章、ぽくない文章とは

文体から読み解くAIと人間の書き方の違い

最近Substackに導入された

「AIテキスト検出」機能

Pangramというサービスを使ってAI生成の文章かどうかを判定してくれます。

その仕組みはどうなっているのか。気になりますよね？

それを理解するためには「生成AIの仕組み」を知ることが近道です。

生成AIが文章を作る仕組み

以前この記事でもちょっと生成AIが文章を作る時の仕組みを話しました。

ドラえもんに人生を委ねてはいけない

「犬も歩けば」と入力すれば、AIは殆どの確率で
「棒に当たる。それは⋯」といった感じで
続きの言葉として確率が高そうな文字列を出力ししてきます。

Pangramについてもこの方法を逆に使ってAI検出をしているようです。

一つ一つの単語、文章のつながりを読んでAIぽい文章かどうかを判定しています。生成AIが学習した数多の文章から平均的・中央値的な文章を出力する様に出来ているので、それが生成AIが書き綴るパターンとどれだけ似ているかを判定しています。

---

とこの生成AIが文章を作る仕組みをAIに書き直してもらいましょう

生成AIが文章を作る仕組み

以前の記事でも少し触れましたが、ChatGPTなどの生成AIは、ざっくり言えば「次に来そうな言葉を予測する」ことで文章を作っています。

たとえば、

「犬も歩けば」

と入力すると、その続きとして

「棒に当たる」

が出てくる可能性はかなり高いでしょう。

生成AIは、学習した大量の文章をもとに、「この文章の次には、どの単語や文字列が続く可能性が高いか」を計算しながら、文章を少しずつ生成しています。

では、AIが生成した文章を見抜くにはどうすればいいのでしょうか。

PangramのようなAIテキスト検出サービスは、文章全体の特徴や、単語・表現のつながり方などを分析し、「AIが生成する文章にどれくらい近いか」を判定しています。

生成AIは大量の文章を学習しているため、自然で読みやすい文章を作れる一方で、言葉の選び方や文章構造に一定の傾向が現れることがあります。

たとえば、

「この言葉のあとに、この表現が続くのは自然か」

「文章全体の語彙やリズムに、AI特有の傾向がないか」

といった複数の特徴を分析し、人間が書いた文章なのか、AIが生成した可能性が高い文章なのかを推定するわけです。

つまり、

生成AIが「次に来る言葉を予測して文章を作る」のに対し、AI検出ツールは「この文章の作られ方はAIらしいか」を分析する。

そんなイメージで捉えると、仕組みが分かりやすいと思います。

内容的にはあまり変わらない？けど印象が変わりますよね。

（そして引用の文章はAIテキスト検出外？かもしれません）

Pangramは新しい生成AIモデルが出る度にそのAIモデルの出力を持って訓練をして、人間が書いた文章とAIが生成した文章を比較して検出用のモデルをトレーニングしているようです。

きっとこの先「AIぽくない文章を書くAI」が出てくるでしょう。

いたちごっこは終わらないと思います。

-

そうなった時に大事なのは

AIが出力したかどうか

ではなく

読みたい文章かどうか

なのかなと思います。

・FAXがメールになったとき

・紙とペンからデジタルイラストになったとき

・映像制作にCGが使われ始めたとき

どれも最初は反感を買い
既存のツールを使いこなす人間から非難されていたんだと思います。

だから必ずしも

AIで書いた文章＝悪

とは思いません。

画像生成で望んだ画像を出力することや、生成AIでクオリティの高い映像を作ることが難しいように、AIをつかって面白い・読みたい文章を書くことも、きっと技術が必要です。

早く・安く・面白い

そんなAI生成の文章や映像で消費できるエンタメコンテンツを浴びていくと、だんだんAIで作ったかどうかは気にならなくなっていくのだと思います。

---

今回、SubstackでAIテキストを検出機能を搭載したのも、読み手が「人間が書いたと思っていたらAIだった」という”がっかりを防ぐ”ための機能で、AIで書いた文章の良し悪しを決めつけるものではない、と思っています。

これからの時代、AIの文章生成スピードを考えると、人間が書いた文章よりもAIが生成した文章の方が多く存在することになるのは間違いないです。

そんな時代が来た時には（もう来ている？）
人間が書いた文章は
「オーガニック野菜」や「国産の天然うなぎ」
みたいな扱いになっているのかも知れません。

あなたはAIが書いた文章について対して
ポジティブですか？ネガティブですか？
ぜひ教えてください＼(^o^)／