Запрет на использование AI в военных действиях и самоуправляемом вооружении.

Более тысячи исследователей, специалистов по вопросам искусственного интеллекта, и ведущих бизнесменов заявляют, что войны выходят из-под контроля, и мы должны запретить самоуправляемое наступательное оружие, дабы мировые державы не оказались втянутыми в гонку вооружений, оснащенных AI. Они за запрет разработок над AI для боевых и автономных вооружений, которые сами определяют по кому, чему, где и когда стрелять. Следует черту таким образом, чтобы позволить дистанционным управлением устройств под контроля человека, Однако, использование устройств, дистанционно управляемых человеком, таких как беспилотные летательные аппараты следует оставить в силе.

В список подписантов входят генеральный директор Tesla Элон Маск, соучредитель Apple Стив Возняк, профессор Стивен Хокинг, генеральный директор Google DeepMind Демис Хассабис, и около 1000 других. Письмо представлено на Международной совместной конференции по искусственному интеллекту в среду в Буэнос- Айресе, в соответствии с Guardian, которая первой сообщила новость .

AI в качестве третьей смертельной революции в военном деле

Согласно письму, "Технологии AI достигли точки, когда развертывание автономного оружия является - практически, если не юридически - возможным в рамках считанных лет, а не десятилетий, и ставки высоки: автономное оружие было названо третьей революцией в военном деле, после пороха и ядерного оружия. "

С одной стороны, говорят они, искусственный интеллект делает битвы более безопасным. С другой стороны, это снижает риск войны, особенно для той стороны, которая первой наносит удар или имеет качественный и количественный перевес в вооружении, оснащенном AI.

Помимо пороха и ядерного оружия, были и другие большие скачки в технологии, которые дали одной из сторон преимущество: пулемет Гатлинга 1862, отравляющий газ и танки в Первой мировой войне, массовые бомбардировки городов в 1930-х годах (перенос военных действий за линию фронта, направив их на гражданское население), и потенциально биологические средства. По иронии судьбы, Ричард Гатлинг - изобретатель одноименного орудия, по утверждениям был убежден, что эффективность, созданного им орудия, уменьшит численность армий и, следовательно, общее количество смертей и страданий. Единственным образом это уменьшало размеры армий, - сразу после того как батальоны давали залпы из этого оружия.

Некоторые новые виды оружия были запрещены или исключены. Начиная с 1995 года, ослепляющие лазеры объявлены вне закона.

Разногласия среди подписавших обращение

Все сходятся во мнении, что гонка роботизированных видов вооружения и оружия, оснащенного AI ни к чему хорошему не приведет, особенно, если учесть тот факт, что данные виды вооружения в известной степени сами могут принимать решения, и эскалация конфликта почти неминуема, т.к. обе стороны могу бросать все больше и больше единиц в бой. Есть и разногласия во взглядах: Хокинг и Маск заявляют: "AI является наибольшей экзистенциальной угрозой .... сильный AI может означать конец человеческой расы". Возняк, с другой стороны заявляет: «Роботы могут быть полезными для людей. Они могут стать сродни "домашним животным ... не нуждающихся в уходе." Если это так, то, возможно, Sony следует вернуть назад Aibo...

Говоря в целом, более 1000 человек, подписавших письмо, осознают разницу между автономным оружием, использующим AI для принятия решений, и такими устройствами, как дроны, которые работают без людей на борту, но управляются дистанционно (иногда из самого сердца Америки) операторами - людьми, которые решают, когда нажать на курок.

Уже рассматривается ООН

В апреле на конференции Организации Объединенных Наций в Женеве обсуждались вопросы вооружения будущего, в том числе роботов, созданных для уничтожения каких-либо целей. Некоторые важные мировые фигуры были против ограничений или запретов. Великобритания, например, была в оппозиции, потому что не видела в этом необходимости. Согласно The Guardian, министерство иностранных дел Великобритании заявило: "Мы не видим необходимости в запрете самоуправляемых систем наступательного вооружения, т.к. международное гуманитарное право уже обеспечивает достаточное регулирование в этой области."

Прямо сейчас, преимущество достается крупным держав с большими бюджетами. Со временем, небольшие страны или непризнанные государства могли бы купить или адаптировать роботов и системы AI в собственных целях. В отличие от работы над ядерным или химическим оружием, работы над вооружением, оснащенным AI, замаскировать будет проще.