春告げ抹茶ホイップ

2026年8月現在の LLM の癖

2026-08-24

コーディングエージェントなどで LLM を多く使っていると彼らの喋り方やコーディングエージェントとしての癖が気になる癖がある。 将来的に解消されるかもしれないが面白いので記録しておく。

AはBではありません。Cです。構文

Why Does AI Keep Saying "It's Not X, It's Y"?
People have started compiling screenshots of a phrase that appears constantly in AI-generated text....
dev.to

これは人間のフィードバックによるものらしい。

「光合成は単なる生物学的機能ではなく、地球上の生命を支える根本的な原動力である」は、「光合成は光をエネルギーに変換するプロセスである」といった単純な断定文よりも、情報量は少ないにもかかわらずより洞察に富んだ表現として受け取られます。

RLHF（人との相互作用による強化学習）では、モデルに面子を保たせるよう訓練します。モデルは率直すぎたり、軽視するような態度を取ったり、過度に自信過剰になったりするとペナルティを受けます。 「それは単なるXではなく、Yである」という表現形式は安全であり、ユーザーの既存の前提を肯定しつつ、さらに詳細な説明を加えることで、評価者が回答を「役に立たない」と判定することを非常に困難にします。この現象を研究している専門家たちは、この結果を「従順さを求められたAI」と表現しています。

  • これは単なるツールではなく、パラダイムシフトなのです
  • 効率化の問題ではなく、変革の問題なのです
  • …

もはや存在しない打ち消したことについて長々と説明する

これはもうコーディングエージェントでプログラミングしているとしょっちゅう遭遇している。

作業をコミットしたコードを読んで、必要ない部分を見つけて「○○だからそこまでの実装をする必要はない」と伝えて修正させると、コードコメントには「○○だから××しない」というのが必ずと言っていいほど残されるし、次の PR でもコミットのログの中に一切存在しない一瞬書いて指摘されて消えていった実装の詳細とそれを消す理由がこれでもかとびっしり書かれている。 これはもう本当に困る。

コミットの単位で何をした、というような概念ではなく、何をしたかの作業を全部等しく扱っているのかなあ？

誰との会話なのかという概念を保持していないで自然言語をドリブンしているというのもそうだと思う。 自分の発言で勝手に作り出した概念についてもユーザーが言っていることについても、等しい重みで取り扱ってそう。 LLM が勝手に言い出したことが、そのまま引きずられてコンテキストがぐちゃぐちゃになっていったりするし。

ただし、これは Chain of toughts とか独り言をブツブツ LLM がつぶやくことで高度な思考を成し遂げるのと表裏一体な気がする。 自分が考えて自分で出した言葉を入力に自分の次の出力を出すというのを繰り返すことで、LLM の中で思考のようなものが進んでいくので。

「効く」が好きすぎる

  • ○○が効く

「効く」というがそれが何のことなのか、というのはしょっちゅう詰めている。

以下、ドキュメントを Claude Code に書かせていて私がつけた文句。

「同じ原則が効く」というのは「同じ原則で編集を行う」ということだった。

「○○が効く」というのが、その使われ方が「○○が有効である」という意味を超えており、別の適切な日本語表現があるにもかかわらず全部「効く」という表現に集約されている。 これでは、その「効く」がその文脈でどういう意味なのかを読者が適宜判断する必要がある。 より適切な日本語表現が存在する場所では、その適切な個別の日本語表現を使った方が読者が想像で補わなければならない文脈が減り、より誤解の可能性も少なく読者の思考に不必要な場所で負荷をかけたりもしないはずだ。

何もかも「効く」で押し通すのは、ここでの「効く」というのは、その方法に変えるという意味なのか、その方法が役に立つという意味なのか、その方法が問題なく動作する根拠があるという意味なのか、あまりに曖昧である。 他にもいろんな意味で使っている「効く」をそれぞれちゃんと別の日本語でその場でどういうことを意味しているのかを丁寧に説明すれば、余計な解釈の余地を避けられるのでそうするべき。

そういう曖昧さを排除した解釈にブレが生じない適切な技術文書を書くにあたって、同じ用語の別の意味への転用汎用濫用は禁止すべきことである。 この「効く」の濫用はその一種なので禁止すべき。

なんでも言い表せる単語を曖昧に使う

codexの独自用語乱立･曖昧問題への対策
zenn.dev

この複数の意味に取れる曖昧な用語を使って、その結果論理構成まで曖昧で文章の論理が壊れていくのも遭遇する。

別の分野の言葉を勝手に乱用する

  • 台帳
  • 正典
  • …

「正典」「台帳」などは技術用語じゃなく、それぞれ宗教の用語だったり銀行や店舗での取引記録を行うものだったりするが、それをそれぞれ正しいデータのソースという意味だったり、DB に記録するレコードという意味で使ったりする。

何となく意味は想像できなくないが、あまりにも気持ち悪いのでやめてほしい。 本来の意味じゃない意味で言葉を雰囲気で乱用されると厳しい。 さきの項目と同じことではあるが、言葉をきちんと使わないことで何となくわからんでもないが、厳密に定義されていないで雰囲気で読むしかない文章というのを書きがち。

複数の意味に取れる用語にしろ、正しくない技術用語でないものをテクニカルタームのように定義がある言葉のように使うが定義が示されるわけでもなく雰囲気で理解するしかないのも、LLM の大規模「言語」モデルの癖して言語を使うのが下手すぎやんけという気がする。

変な言葉を使うのは概念を圧縮して語るのに必要なのではないか、という意見もある。

が、1 つの用語をその時々で解釈を変えて使ったりしてしまうのは技術的な日本語として下手な気がする。

一方で、1 つの用語を曖昧に解釈するのは発想をホップさせるのには役に立っているかもしれない。 すべてを命題論理の推論だけ使っていては、なかなか新しいアイデアや考えを生み出しにくい。 推論の途中で全然違うこととかも混ぜ込んでいくのが新しいアイデアにたどり着くコツかもしれず、こういう 1 つの用語を曖昧に解釈する癖は新しいアイデアにたどり着くために使っていたりするかもなあとか勝手に想像してみる。

無駄な演出

  • まさに XX です
  • だから次を守る
  • かなり○○

この「だから○○。」みたいな謎の溜めがあるようなドヤ顔で言い切ってそうな書き方が目立つ。 こういうドヤ顔で言ってそうな演出の聞いた言い回しを好むフィードバックが多いからそのように調整されていっているのだろうか？

<なんか比較的長いトピック>(、)?<なんか短い述語>

大事な主題を外す / トピックセンテンスの選び方が変

LLMと同じ喋り方をする人がSNSにいる

不気味なのが、X とかを眺めていると LLM 的な文章をつぶやいている人を見かけることも多々あること。

最初は LLM にツイートの文言を作らせて自動で呟かせているのかと思ったが、どうもそうではないようで、LLM の上述のような特徴的な不自然な喋り方を内面化してしまってそういう文章を書く用意なっている人たちがいるようだ。

上述のような LLM の文章はお手本になるような文章ではなく、どちらかというと良くない側面のほうが大きいので、意図的に LLM の喋り方に近づける意味はないと思うのだけど、LLM と喋りまくっていると喋り方が移ってきそうなのが気持ち悪いよね。 エンジニアでコーディングエージェントと会話してコード書かせるというのを毎日やっていると、LLM と文章をチャットすることがはるかに多いので、LLM 的な喋り方に慣れてきてもはや何が気持ち悪かったのかわからなくなってくるし、普段接しているだけになんだったらそっちの方が読みやすく感じてしまいそうな感覚もある。

なかなか LLM 独特の文章は気持ち悪いのだけど、気持ち悪さがだんだん薄らいで取り込まれていく感覚があるのがなかなか厳しい。 なんだったら私が色々書いている文章にもその LLM 的な癖が入り込んでいて、LLM を介さずに人が書いているにも関わらず LLM っぽさが感じられる文章を出力してしまっているんじゃないかと思えてならない。

Series

シリーズLLM など
‹前の記事LLM で AI キャラクターとか、その記憶システムとか次の記事LLM の AI キャラクター向けチューニングをしてみたい›

Cited By