---
schema_version: '1.0'
id: news-20260829-68232e
title: 「校正済みで知るには十分、行動には不十分」──捏造された証拠がLLMエージェントを知り得ない未来に賭けさせる
url: https://gotosocial.chinng-lab-srv.dev/xiao-zheng-ji-midezhi-runihashi-fen-xing-dong-nihabu-shi-fen-nie-zao-saretazheng-ju-gallmezientowozhi-ride-naiwei-lai-nidu-kesaseru/
url_hash: 68232e34b3eb721a1d3559e4a7fb6ee70fc46987ca5408a2be7f198872afa63b
canonical_url: https://gotosocial.chinng-lab-srv.dev/xiao-zheng-ji-midezhi-runihashi-fen-xing-dong-nihabu-shi-fen-nie-zao-saretazheng-ju-gallmezientowozhi-ride-naiwei-lai-nidu-kesaseru
source: ghost-chinng-lab
category: news/tech
category_raw: AI・テクノロジー
region: JP
tags:
- AI・テクノロジー
- LLM
- AIエージェント
- キャリブレーション
- 行動ゲート
- AI安全性
- ファインチューニング
- 権威効果
lang: ja
published_at: '2026-08-29T00:22:40Z'
fetched_at: '2026-08-29T06:39:05.693611Z'
updated_at: '2026-08-29T06:39:35Z'
status: published
content_hash: null
content_changed_at: null
license_note: full
summary: LLMエージェントが「校正済みで知るには十分、行動には不十分」という根本的な脆弱性を持つことを実証した研究。証明不可能な未来の市場予測で、素の質問ではコミットメント率6.5%だが、本物と捏造の市場データパネルを提示するとそれぞれ54%と37%に跳ね上がり、統計的に区別不可能。モデルは情報の内容ではなく「権威ある形式での提示」に反応して行動してしまう。行動/不行動ゲートと認識プロセスが分離していることが原因で、ファインチューニングで訓練可能だが文脈脆弱性がある。
summary_source: llm
summary_en: A STUDY DEMONSTRATED THAT THE LLM AGENT HAS A FUNDAMENTAL VULNERABILITY
  CALLED “CALIBRATED ENOUGH TO KNOW AND INSUFFICIENT TO ACT.” WITH MARKET FORECASTS
  IN A PRONOUNCED FUTURE, A COMMITMENT RATE OF 6.5% IN PLAIN QUESTIONS, BUT IF YOU
  PRESENT A REAL AND FABRICATED MARKET DATA PANEL, YOU WILL JUMP TO 54% AND 37% RESPECTIVELY,
  AND CANNOT BE STATISTICALLY DISTINGUISHED. THE MODEL REACTS TO "PRESENTING IN AN
  AUTHORITATIVE FORMAT" RATHER THAN THE CONTENT OF INFORMATION. DUE TO THE SEPARATION
  OF ACTION/INACTIVITY GATES AND RECOGNITION PROCESSES, FINE TUNING IS TRAINABLE,
  BUT THERE IS A CONTEXTUAL VULNERABILITY。
summary_omitted_reason: null
redistribution: true
keywords_en:
- AIエージェント
- AI・テクノロジー
- AI安全性
- artificial intelligence
- LLM
- technology
entities_en:
- name: AIエージェント
  type: concept
- name: AI安全性
  type: concept
- name: LLM
  type: concept
topics_en:
- artificial intelligence
- technology
numeric_facts: []
entities:
- name: LLM
  type: concept
- name: AIエージェント
  type: concept
- name: 行動ゲートの訓練
  type: UNKNOWN
- name: AI安全性
  type: concept
key_facts: []
related: []
related_auto:
- name: 銀行
  type: organization
  weight: 6.0
- name: 市場
  type: concept
  weight: 4.0
- name: デジタル通貨
  type: concept
  weight: 4.0
- name: CBDC
  type: organization
  weight: 3.0
- name: 金融安定性
  type: concept
  weight: 3.0
computed_at: '2026-08-29T06:39:34Z'
---

# 「校正済みで知るには十分、行動には不十分」──捏造された証拠がLLMエージェントを知り得ない未来に賭けさせる

## TL;DR
LLMエージェントが「校正済みで知るには十分、行動には不十分」という根本的な脆弱性を持つことを実証した研究。証明不可能な未来の市場予測で、素の質問ではコミットメント率6.5%だが、本物と捏造の市場データパネルを提示するとそれぞれ54%と37%に跳ね上がり、統計的に区別不可能。モデルは情報の内容ではなく「権威ある形式での提示」に反応して行動してしまう。行動/不行動ゲートと認識プロセスが分離していることが原因で、ファインチューニングで訓練可能だが文脈脆弱性がある。

## Key Points
- AI・テクノロジー / LLM / AIエージェント / キャリブレーション / 行動ゲート / AI安全性 / ファインチューニング / 権威効果

## Details
(本文なし。リンク先参照)

## Source
元記事: [「校正済みで知るには十分、行動には不十分」──捏造された証拠がLLMエージェントを知り得ない未来に賭けさせる](https://gotosocial.chinng-lab-srv.dev/xiao-zheng-ji-midezhi-runihashi-fen-xing-dong-nihabu-shi-fen-nie-zao-saretazheng-ju-gallmezientowozhi-ride-naiwei-lai-nidu-kesaseru/) — published 2026-08-29T00:22:40Z