---
schema_version: '1.0'
id: news-20260904-1d6906
title: AIエージェントの安全対策は「足し算」では守れない——「Safety Does Not Compose」が示す自律ループの死角
url: https://gotosocial.chinng-lab-srv.dev/aiezientonoan-quan-dui-ce-ha-zu-sisuan-dehashou-renai-safety-does-not-compose-gashi-suzi-lu-rupunosi-jiao/
url_hash: 1d6906a4b88160e960faba62d03daab0420babdb32053ba4e393c0e80b2c1892
canonical_url: https://gotosocial.chinng-lab-srv.dev/aiezientonoan-quan-dui-ce-ha-zu-sisuan-dehashou-renai-safety-does-not-compose-gashi-suzi-lu-rupunosi-jiao
source: ghost-chinng-lab
category: news/general
category_raw: LLMエージェント
region: JP
tags:
- LLMエージェント
- AIセキュリティ
- 自律ループ
- LoopHarness
- ガードレール
- Agent-SafetyBench
lang: ja
published_at: '2026-09-04T00:56:29Z'
fetched_at: '2026-09-04T03:38:55.842756Z'
updated_at: '2026-09-04T03:39:25Z'
status: published
content_hash: null
content_changed_at: null
license_note: full
summary: 論文「Safety Does Not Compose」は、ガードレールを積み重ねても自律ループでは防御が合成されないことを示す。攻撃証拠をループ内に分散するフラグメント化攻撃を原理的に防げず、LoopHarnessなどループ単位の状態管理が必須となる。
summary_source: llm
summary_en: The paper “Safety Does Not Compose” indicates that the defense is not
  synthesized in the autonomic loop even if the guardrail is stacked. It is essential
  to manage the state of the loop unit, such as LoopHarness, to prevent fragmentation  that
  disperse attack evidence in the loop。
summary_omitted_reason: null
redistribution: true
keywords_en:
- Agent-SafetyBench
- AI safety experts
- AIセキュリティ
- Compose
- Does
- general news
- LLMエージェント
- LoopHarness
- Not
- NotebookLM
- Safety
entities_en:
- name: AI safety experts
  type: UNKNOWN
- name: LLMエージェント
  type: artifact
- name: NotebookLM
  type: organization
topics_en:
- general news
numeric_facts: []
entities:
- name: LLMエージェント
  type: artifact
- name: 法的合意(ガードレール
  type: concept
- name: AI safety experts
  type: UNKNOWN
- name: NotebookLM
  type: organization
key_facts: []
related: []
related_auto:
- name: 検証器
  type: artifact
  weight: 1.0
- name: Openai
  type: organization
  weight: 1.0
computed_at: '2026-09-04T03:39:20Z'
---

# AIエージェントの安全対策は「足し算」では守れない——「Safety Does Not Compose」が示す自律ループの死角

## TL;DR
論文「Safety Does Not Compose」は、ガードレールを積み重ねても自律ループでは防御が合成されないことを示す。攻撃証拠をループ内に分散するフラグメント化攻撃を原理的に防げず、LoopHarnessなどループ単位の状態管理が必須となる。

## Key Points
- LLMエージェント / AIセキュリティ / 自律ループ / LoopHarness / ガードレール / Agent-SafetyBench

## Details
(本文なし。リンク先参照)

## Source
元記事: [AIエージェントの安全対策は「足し算」では守れない——「Safety Does Not Compose」が示す自律ループの死角](https://gotosocial.chinng-lab-srv.dev/aiezientonoan-quan-dui-ce-ha-zu-sisuan-dehashou-renai-safety-does-not-compose-gashi-suzi-lu-rupunosi-jiao/) — published 2026-09-04T00:56:29Z