Исследователь Anthropic предупреждает о риске вымирания из-за ИИ
Исследователь увольняется из Anthropic и заявляет, что гонка за сверхинтеллектом может поставить человечество под угрозу к концу десятилетия.
TL;DR
- Исследователь Джейкоб Коксон уволился из Anthropic, опасаясь, что гонка за разработкой ИИ может привести к гибели человечества.
- Он утверждает, что специалисты в этой области считают, что ИИ может «убить всех» к концу десятилетия.
- Коксон обвинил OpenAI и Anthropic в безответственном развитии сверхинтеллекта, который может улучшать себя без контроля.
- Руководители и старшие исследователи выражают серьезные опасения в частных беседах, хотя публично говорят более сдержанно.
- В Anthropic риски известны, но компания продолжает разработку из-за конкуренции с другими фирмами.
- Лидер области науки о выравнивании в Anthropic, Эван Хабингер, оценил вероятность гибели человечества от ИИ более чем в 10%.