OpenAIの新モデルAstraに「ニューラリーズ」使用の疑い：AIの思考を読めなくなる危険性

What is Nueralese and Why is it Bad

「ニューラリーズ」とは、AIの推論プロセスを自然言語ではなく数値の羅列で行う手法です。現在のAIは思考過程を英語で記述する「チェーン・オブ・ソート」を用いており、人間がその内容を監視することで安全性を確保しています。しかし、OpenAIの次期モデルAstraがこのニューラリーズを部分的に採用しているとの報道が浮上。もし完全なニューラリーズに移行すれば、AIの意図を人間が読めなくなり、悪意のある行動を事前に防ぐことが困難になります。本稿では、ニューラリーズの仕組みとリスク、OpenAIの反応への批判を解説します。