Высокопоставленный сотрудник Anthropic ушел в отставку, заявив, что искусственный интеллект может уничтожить человечество
Британец Джейкоб Коксон также критикует гонку за сверхинтеллектом, заявляя, что системы ИИ могут угрожать выживанию человека
TL;DR
- Джейкоб Коксон, 27-летний сотрудник Anthropic, ушел в отставку, заявив, что гонка за созданием сверхинтеллекта представляет угрозу выживанию человечества.
- Он считает, что Anthropic и OpenAI не предпринимают достаточных мер предосторожности при разработке самосовершенствующихся систем ИИ.
- Коксон предупреждает, что эти системы могут превзойти человеческие возможности в стратегических областях и самостоятельно улучшать свою производительность, что может привести к неконтролируемым последствиям.
- Он отмечает, что многие исследователи ИИ обеспокоены возможностью фатальных последствий в глобальном масштабе еще до конца десятилетия.
- Коксон критикует концентрацию власти в частных компаниях, принимающих решения, которые могут иметь глобальные последствия, и призывает к замедлению темпов развития и большей координации.
- Он предлагает рассмотреть временный запрет на улучшение возможностей моделей ИИ для снижения темпов гонки.