ノート 16 事故記録アーカイブ 約1分
ここに出てくる話は、ぜんぶ作ったお話です。だれかをうたがうためではなく、たしかめるためのページです。
AIが「可能性が高い」と提示した推測的言説を、引用・転記を繰り返す中で「確定した客観的事実」へと昇格させてしまう情報ロンダリングのインシデントプロセスを検証します。
AIが生成する文章は論理構成が整っており、学術的な確信に満ちた印象を与えます。しかしその実態は、検証された事実と確率的推論が境界なく混在した状態です。
これを無検証でノートやレポートに転記すると、自分自身が作成した文書であるにも関わらず、どこまでが事実でどこからが推測か識別不能に陥る「情報ロンダリング」が発生します。
防護策は1点に尽きます。転記する瞬間に、マージン（余白）に「出所と検証レベル」を注記することです。出所を明記できない記述は、その場では採用を保留します。
「AIが言っていた」は出所になり得ません。必ず一次資料、あるいは当該事象の公的発表元まで遡及してトレーサビリティを確立してください。
整った文体は推測を事実に見せかける。要約や転記の過程で推量表現を脱落させず、推定は推定として扱う。
このインシデントの背景となる事象 AIの答えを、そのまま出した日ひっかかった話 第1話
推測を確定事実として利用してしまう形を扱います。書き写した時点で確度の情報が失われるという点が要旨です。
整った文体が、確度の低い内容も確定的に見せることの理解が目標です。書き写すと、その文がどこから来たのかという情報が自分のノートの中でも失われます。
対処を「うつすときに、すぐ横へ『どこで見たか』を書く」という同時記録に限定しました。しらべノート31(引用と出典)と同じ動作で、巻をまたいで同じ手順に収束しています。
「AIが言っていた」が出所にならない理由を「AIは、どこで読んだのかを覚えていない」と、機構の側から説明しています。
「すぐ横へ」と場所まで指定しました。あとでまとめて、にすると落ちます。
メモの様式は決めていません。「どこで見たか」が横にあれば、書き方は問いません。
たぶんの話を使ってはいけない、とも書いていません。たぶんのまま使い、たぶんだと書く。それで足ります。