OpenAI: ИИ станет умнее нас, и мы не готовы

An Alien Mind

В эссе «An Alien Mind» технический директор OpenAI Марк Чен описывает, как прогресс в области ИИ ускоряется и может привести к рекурсивному самосовершенствованию. Он предупреждает, что системы, которые появятся в ближайшие годы, будут значительно умнее людей, и никто не готов к последствиям. Чен обсуждает проблемы выравнивания, мониторинга и защиты от рисков, связанных с кибербезопасностью, и призывает к более широким мерам предосторожности.