Лауреат Нобелевской премии по физике и один из наиболее известных исследователей в области нейросетей Джеффри Хинтон заявил, что у властей США остаётся около года для создания действенных правил регулирования искусственного интеллекта. По его оценке, затем развитие передовых систем может стать значительно сложнее для контроля.
Как сообщает Business Insider, 16 сентября Хинтон выступил перед членами Конгресса США. После брифинга он отметил, что прогресс в сфере ИИ оказался быстрее, чем предполагали многие специалисты, поэтому время на выработку механизмов надзора за наиболее мощными моделями стремительно сокращается.
Отвечая на вопрос о том, сколько времени остаётся у законодателей, учёный назвал срок примерно в один год, уточнив, что он едва ли будет существенно больше. По словам Хинтона, представления о сроках появления сверхинтеллекта также изменились: если раньше речь шла о десятилетиях, то теперь ряд экспертов допускает такой сценарий уже в ближайшие годы.
Хинтон связывает риск прежде всего с возможностью ИИ участвовать в создании более совершенных систем.
«Если мы ничего не предпримем, ИИ выйдет из-под контроля. Мы должны замедлиться», – заявил он.
Опасения вокруг передовых моделей
Учёный также упомянул недавний инцидент, связанный с платформой Hugging Face, и сравнил его с «небольшой Чернобыльской аварией». По его мнению, этот случай показал, насколько трудно становится управлять передовыми системами искусственного интеллекта.
Хинтон подчеркнул, что разработчикам следует прежде всего научиться надёжно контролировать такие технологии, прежде чем продолжать их дальнейшее усложнение. Он неоднократно публично говорил о потенциальных рисках ИИ: неделей ранее в интервью исследователь заявил, что вероятность исчезновения человечества из-за искусственного интеллекта в течение ближайших десяти лет на уровне 10% нельзя считать необоснованной.
Мнение редакции
Предупреждение Хинтона важно не только из-за его авторитета, но и потому, что разговор об ИИ всё чаще переходит от возможностей технологий к ответственности за их применение. Регулирование не должно сводиться к запретам или формальным декларациям: ему придётся учитывать безопасность моделей, прозрачность разработки и распределение ответственности между компаниями и государством. И чем быстрее развиваются системы, способные влиять на экономику, информацию и безопасность, тем выше цена промедления с понятными правилами.
