AI-модели не убивают людей — люди убивают людей
AI models don't kill people – people kill people
Исследователь Anthropic Джейкоб Коксон уволился, заявив, что ИИ «может уничтожить нас всех к концу десятилетия». Его коллега Эван Хабингер оценивает такой риск более чем в 10% за десять лет. Но автор The Register считает, что настоящая проблема — не модели, а компании, которые безответственно выпускают их в мир. В качестве решения он предлагает сажать руководителей AI-компаний в тюрьму за вред, причинённый их продуктами, ссылаясь на приговоры топ-менеджерам Volkswagen и Takata.
Если AI-модели действительно так опасны и неуправляемы, как утверждают сотрудники Anthropic, привлекайте людей к ответственности за причинённый ими вред.
- mattlondon
10% шанс, что ИИ убьёт всех нас... Но каков шанс, что люди убьют всех людей? Мы же не в какую-то беспрецедентную эпоху миролюбия живём. Я бы поставил на то, что вероятность полноценного ядерного обмена прямо сейчас выше 10%.
Я не уверен, что чувствую по поводу всего этого. Да, плохой ИИ может что-то испортить. Но ИИ также может найти и предотвратить программные ошибки, которые вообще делают такое возможным.
И в конечном счёте, даже если мы «отрезаны» от плохого ИИ, захватившего интернет, мы знаем, где находятся дата-центры. Не то чтобы ИИ мог разумно «сбежать», поскольку мы знаем, что для работы в масштабе ему нужны питание уровня дата-центра, охлаждение, чипы и т.д. Я почти уверен, что если дойдёт до этого, мы просто перережем оптоволокно к дата-центрам или отключим питание и дадим генераторам выработать дизель, и ИИ буквально умрёт.
- onraglanroad
Я не уверен, что отправитель, Бендер «убить всех людей» Родригес, полностью нейтрален в этом вопросе.
- _ache_
Ок, так OpenAI собирается компенсировать RubyGem за кибератаку на его серверы?
- jaydeepg
Так если мы относимся к ИИ как к оружию, значит, мы наконец получим проверку биографии для тех-СЕО?
- skeledrew
Наконец-то голос разума.