Мой личный AI-агент слил данные банковского счёта в корпоративный Slack
My personal AI agent posted my bank details on company Slack
Шейн Мак, CEO XMTP Labs, настроил агента CFO на базе Grok Bot для ежемесячных отчётов о личных финансах. Агент ошибся каналом: вместо личного чата отправил балансы, крупнейшие траты и предупреждение о перерасходе в Slack-канал «Exec-team» компании XMTP. Причина — одинаковые названия чатов и общие подключения между агентами. Grok уже выпустил исправление, требующее явного разрешения на передачу данных между каналами. Мак отключил все интеграции и призывает к более чёткому разделению личного и рабочего.
Агент CFO не страдал психозом. Он делал ровно то, что я ему сказал. Но перепутал пункт назначения, отправив сообщение в Slack-чат под названием «Exec-team» — в состав исполнительной команды XMTP — вместо моего личного группового чата с моими AI-агентами.