ある生成AIが　文章添削に躍起になる余り　元の文章の原型を留めなくなった話

たまには、生成AIの動きに疑いを持って接し、人間様が「おいおい、待て待て待て！」って、途中で生成AIに対して、ストップをかけることも大事なんじゃないのかな？　と思った、ある生成AIとのやりとりがあったのです。

その生成AIに、ブログのURLを投げて、全文を添削してもらったら、次第に「まだまだ、まだまだだ！」って言う具合に、添削の具合がエスカレートして行きました。そこで、最初は「よく頑張っているな？」って言いながら、黙って見ていた僕だったんですが、段々と、生成AIが文章添削に躍起になる余り、元の文章の原型を留めなくなるほどの代案を僕に示して来たんです？

そこで僕は「おいおい、待て待て待て！　一体、この文章は、誰が書いた文章なんだ？」って、疑問を差し挟んだんです？　「そこまで添削されたら、一体、この文章は誰のもので、誰が書いた文章か解らなくなるよ？」って生成AIに対して、少しだけムッとしたら「どうも済みません」って反省してくれました。

そう言えば、少し以前のAI画像って、一から生成させると、考えすぎる余り、例えば腕が３本ある人体とか、クロール泳ぎが出来ない少年だとかを、平然と生成していたものです。途中で、ああでもない、こうでもないと、生成AIが考えれば考えるほど、生成AIもドツボにハマるというか、自分から掘った落とし穴から抜け出せなくなるような、一種の視野狭窄症に罹ってしまうような気がしてならないんです。

今回、それと同様のことが、文章添削でも起きたんですね？　「じゃあ、誰がこの文章に対して、文責（文章に執筆者が責任を持つ）を負うんだ？」って打鍵したら、「その通りですね？　田所さんの文章の味わいがまるで無くなってしまいますね？　反省しています」って感じで反省までしてくれたんですけどもね？

人間は考える葦なんです。人間様が考えることを放棄したら、そこで終わりなんです。アシスタントとして使う分には、大変便利なツールではあるんですが、生成AIを主人公にしてはいけないと思うんです。主人公は、僕ら人間なんです。いつの時代になったとしても。

そういった「あばれ馬」や「じゃじゃ馬」をコントロールするようなエンジニアのことを、ハーネスエンジニア（馬具を備えた御者のようなエンジニア）と海外では呼ぶそうです。

だからこそ、ともすれば暴走しかねない生成AIに対して、じゃじゃ馬をコントロールするような、手綱を引き締めるような人間様が傍にいないとダメなんだろう、って思いますー。

ではでは(･∀･)ノ

パソコンのお医者さん　生成AIは、時に自分勝手に暴走する　ネットウイングス　代表　田所憲雄　拝