Руководитель отдела безопасности в OpenAI Лилиан Вэн Ли сделала редкое публичное выступление на мероприятии, организованном крупной китайской видеостриминговой платформой Bilibili, призывая к ответственному развитию искусственного интеллекта. Её обращение привлекло внимание как в технологической индустрии, так и среди широкой общественности.
«Обоюдоострый меч» ИИ
Вэн, вице-президент по исследованиям в области безопасности ИИ в стартапе, поддерживаемом Microsoft, отметила, что ИИ является «обоюдоострым мечом» для человечества.
«Он приносит удобство и вызовы, и наше участие имеет критическое значение», — заявила она. «Давайте объединим усилия, чтобы создать умного и ответственного ИИ-помощника».
Её речь, произнесённая на китайском языке и транслировавшаяся на Bilibili, акцентировала необходимость правильного обучения ИИ-моделей. По словам Вэн, это жизненно важно для обеспечения того, чтобы ИИ был безопасен для человечества.
«Люди учатся и совершенствуются по мере роста, но они также испытывают трудности взросления. То же самое верно и для ИИ. Он может стать узколобым из-за смещения данных или быть использован злонамеренно из-за атак злоумышленников», — подчеркнула она. «Через тщательное образование или исследования в области безопасности и согласования ИИ мы можем сделать процесс роста ИИ более гладким».
Карьера и вклад Лилиан Вэн
Лилиан Вэн, выпускница Пекинского университета по специальности «информационные системы», получила степень доктора философии в Университете Индианы в Блумингтоне. До присоединения к OpenAI в 2018 году в качестве научного сотрудника она работала в крупных американских технологических компаниях, таких как Facebook* и Dropbox.
За почти семь лет работы в OpenAI Вэн внесла значительный вклад в прикладные исследования ИИ. В августе она была повышена до вице-президента по исследованиям и безопасности, возглавив команду, занимающуюся практическими мерами по обеспечению безопасности ИИ — темой, вызывающей растущую обеспокоенность в индустрии и среди правительств.
Реакция и контекст
Примечательно, что Вэн не обсуждала OpenAI или технологическое соперничество между США и Китаем в своей речи, сосредоточившись на общих аспектах развития ИИ. Её выступление вызвало позитивную реакцию в материковых СМИ и институтах, которые быстро похвалили китайских исследователей в одной из самых влиятельных компаний в сфере ИИ.
Ранее в этом году средняя школа в Ухане отметила своего бывшего ученика Цзин Ли, работавшего над моделью преобразования текста в видео Sora, заявив, что он «сияет на международной арене».
Рост китайских исследователей в сфере ИИ
Китайские учёные составляют растущую долю исследователей ИИ в США, несмотря на усиление политического внимания к ним внутри страны. Согласно исследованию аналитического центра MacroPolo, в 2022 году 38% первоклассных исследователей ИИ в американских учреждениях были из Китая, что выше 27% в 2019 году.
Хотя OpenAI не публикует демографические данные о своей рабочей силе, примерно четверть из более чем 140 участников её последней модели o1, по-видимому, имеют китайские фамилии. Хотя это не указывает на гражданство или место рождения, китайские СМИ часто празднуют успехи соотечественников за рубежом.
Выступление Лилиан Вэн подчеркивает важность международного сотрудничества и ответственности в развитии искусственного интеллекта. Её призыв к созданию «умного и ответственного ИИ-помощника» отражает растущую необходимость в этических и безопасных подходах к технологиям, которые становятся всё более интегрированными в повседневную жизнь.
Ещё по теме: