Глава Anthropic предупредил об опасностях сверхинтеллекта: готово ли человечество к безграничной силе?

Искусственный интеллект развивается стремительными темпами, однако общество может оказаться не готовым к последствиям появления сверхинтеллектуальных систем. Генеральный директор технологической компании Anthropic Дарио Амодеи выразил серьезную обеспокоенность тем, смогут ли люди разумно распорядиться силой, которую они создают. По его словам, человечество находится на пороге получения практически безграничных возможностей, но готовность общества к управлению ими остается под большим вопросом.

Опасения перед технологическим прорывом

Компания Anthropic сейчас переживает стремительный рост и готовится к возможному выходу на биржу вслед за своим главным конкурентом — OpenAI. На этом фоне заявления ее руководства звучат особенно остро. Дарио Амодеи уже давно размышляет о будущем индустрии и о том, как обществу следует реагировать на неизбежные изменения.

Многие ученые и технические специалисты сходятся во мнении, что рано или поздно искусственный интеллект достигнет уровня, когда сможет самостоятельно генерировать новые знания, действовать автономно и даже улучшать собственный код без участия человека. Именно эта перспектива лежит в основе дискуссий об экзистенциальных угрозах: человечество рискует потерять контроль над системой, чьи мотивы и возможности оно будет не в силах ни понять, ни ограничить.

Манифест ответственной разработки

В своем масштабном эссе руководитель Anthropic подробно описал тревожную перспективу, при которой человечество как вид пока не способно контролировать и правильно направлять разрабатываемые технологии. Его публикация во многом напоминает политический манифест. Амодеи настаивает на необходимости форсировать безопасную разработку ИИ в демократических странах, одновременно создавая технологические барьеры для авторитарных и враждебных государств.

Сроки создания универсального разума

Гонка за создание так называемого сильного искусственного интеллекта (AGI) — систем, способных решать любые интеллектуальные задачи на уровне человека — уже началась. Ведущие эксперты прогнозируют этот прорыв в ближайшие десятилетия или даже годы. Временное окно для достижения этой цели постоянно сужается.

Прогнозы аналитиков относительно сроков и последствий этого события выглядят следующим образом:

• Рэй Курцвейл, известный футуролог и компьютерный специалист, считает, что сильный ИИ будет создан уже к 2029 году, а полноценный сверхинтеллект появится в последующие десятилетия. Это приведет к технологической сингулярности — моменту, после которого технологическое развитие станет неуправляемым и необратимым.
• Глава OpenAI Сэм Альтман также регулярно высказывается на эту тему, отмечая неизбежность фундаментальной трансформации общества.
• Руководство Anthropic призывает действовать на опережение, регулируя безопасность технологий до того, как они выйдут из-под контроля человека.

Вопрос о том, готово ли современное общество к столь радикальным преобразованиям, остается открытым. Очевидно лишь то, что времени на подготовку у человечества остается все меньше.

Твитнуть