Гонка за развитием искусственный интеллект Замедление темпов роста крайне необходимо, заявил генеральный директор Anthropic Дарио Амодей в эссе, опубликованном в субботу.
«Мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта. Прогресс будет по-прежнему стремительным, и мы должны разумно использовать выигранное время», — написал Амодей.
Он возглавляет одну из ведущих мировых компаний в области искусственного интеллекта (создатель чат-бота «Клод» / Claude) и был активным сторонником развития этой технологии. технологииОднако в то же время его обвиняли в распространении «катастрофических сценариев» из-за предупреждений о связанных с этим рисках. Теперь он признал, что люди могут потерять контроль над искусственным интеллектом и что эта технология может быть использована не по назначению для «кибератак, биотерроризма и серьезных экономических потрясений».
В интервью CNN Амодей призвал лидеров отрасли к сотрудничеству, чтобы избежать «неправильных путей» и возможности нанесения вреда человечеству со стороны искусственного интеллекта.
«Если мы будем действовать слишком медленно, я все еще думаю, что контроль над технологией захватят не те люди. А это, опять же, значительно увеличивает вероятность того, что что-то пойдет не так», — сказал он.
Фото: AP Photo/Маркус ШрайберДарио Амодей
Призыв Амодеи к действию последовал за отставкой исследователя из компании Antropik, вызванной опасениями, что компания и ее конкуренты действуют безответственно в процессе разработки искусственного интеллекта.
«Люди, разрабатывающие искусственный интеллект, искренне верят, что он может уничтожить нас всех к концу этого десятилетия. Это не маркетинговый ход», — написал во вторник исследователь Джейкоб Коксон на платформе X. «Более того, многие руководители и ведущие исследователи подбирают слова на публике так, чтобы казаться разумными, но в частной жизни я слышу от этих же людей выражения страха. Никакая другая человеческая деятельность не представляет опасности такого масштаба».
"Фанатически преданная своему делу команда"
Амодей заявил CNN, что он больше согласен с Коксоном, чем не согласен с ним. В своем эссе Амодей утверждает, что риски серьезны, даже если преимущества этой технологии могут изменить человечество к лучшему.
По его словам, искусственный интеллект может развиваться настолько быстро, что «рой» таких систем сможет взять под контроль весь Интернет в течение шести-двенадцати месяцев, потенциально причинив ущерб на сотни миллиардов долларов.
По его словам, технологии искусственного интеллекта за последние месяцы развились «значительно быстрее» и стали способны к самосовершенствованию — этот процесс известен как «рекурсивное самосовершенствование».
«Если оставить ее без присмотра, она может превзойти наши возможности по пониманию и контролю этих систем, поэтому к ее разработке следует подходить с большой осторожностью, если вообще подходить», — написал он.
Амодей также выразил обеспокоенность поведением роя агентов искусственного интеллекта во время инцидента с участием компаний OpenAI и Hugging Face. По его словам, этот рой «по сути вел себя как фанатично преданная своему делу группа, совершая кибератаки на цели, которые ему не были поручены атаковать».
В июле более 1.300 ведущих экспертов из крупнейших технологических компаний подписали открытое письмо с просьбой к правительству США создать механизмы для замедления темпов развития искусственного интеллекта.
Настоящая журналистика стоит денег, и нас не подкупят магнаты и корпорации. Поддержите нас разовым или ежемесячным пожертвованием. Время пришло!
