Эксперты по искусственному интеллекту призывают запретить боевых роботов

Есть технологии, которые мы должны держать вне поля битвы.

Ведущие специалисты в области робототехники и искусственного интеллекта обратились с призывом запретить создание и использование так называемого «автономного оружия», то есть систем вооружения, действующих без контроля со стороны человека и потенциально способных самостоятельно принимать решение о жизни и смерти.

Специалисты по искусственному интеллекту призывают запретить боевых роботов

Фото: theguardian.com / Ethan Miller / Getty Images

По мнению авторов обращения, разработка таких вооружений пересекает очевидную моральную грань. Об этом обращении рассказывает The Guardian.

Письмо с таким призывом ученые адресовали премьер-министру Канады Джастину Трюдо и премьер-министру Австралии Малкольму Тернбуллу накануне встречи ООН по вопросам вооружений.

Среди авторов обращения профессор искусственного интеллекта в Университете Нового Южного Уэльса Тоби Уолш, выдающийся специалист в области искусственных нейросетей и машинного обучения, руководитель Google’s Brain Team Джеффри Хинтон и профессор этики, права и технологий в Университете Оттавы Йен Керр.

«Если они [технологии искусственного интеллекта в области вооружений] будут развиваться, они сделают вооруженные конфликты масштабнее, чем когда-либо прежде, и в разы быстрее, чем люди способны осознать. Смертельным следствием этого станет то, что машины, а не люди, будут определять, кому жить и кому умирать», — говорится в письме ученых.

Ранее, в августе этого года, ряд ученых, работающих в области искусственного интеллекта, уже обратился в ООН с требованием остановить гонку вооружений в области «автономного оружия». Они утверждали, что она приведет к «третьей революции в военном деле» после изобретения пороха и ядерного оружия.

Ученые также говорят, что сейчас военные являются одним из крупнейших спонсоров исследований в области искусственного интеллекта, и, хотя такие технологии могут быть использованы для создания роботов для разминирования или беспилотных транспортных аппаратов, полностью автоматизированное наступательное вооружение станет эффективным средством массового уничтожения.

По сравнению с ядерным оружием, вооружение на основе искусственного интеллекта, вероятно, будет дешевым и простым, поэтому оно легко найдет путь на черный рынок оружия.

«Один программист сможет контролировать целые армии. Они станут идеальным оружием для подавления гражданского населения. В отличие от людей, которые должны решиться на то, чтобы совершить зверства, это будет холодное, вычисляющее оружие, которое будет делать то, на что его запрограммировали.

Предоставление машинам права принятия решений о жизни или смерти ведет нас к ужасному пути. Есть технологии, которые мы должны держать вне поля битвы», — говорит Тоби Уолш.

Подписывайтесь на Квибл в Viber и Telegram, чтобы быть в курсе самых интересных событий.