Организация Объединенных Наций предупредила, что системы искусственного интеллекта (ИИ) могут представлять “негативную, даже катастрофическую” угрозу для прав человека, и призвала запретить приложения ИИ, которые используются без соблюдения прав человека.
15 сентября глава ООН по правам человека Мишель Бачелет призвала государства-члены ввести временный запрет на продажу и использование ИИ до тех пор, пока не будут рассмотрены потенциальные риски, которые он несёт, и не будут созданы адекватные гарантии того, что технологией не будут злоупотреблять.
“Мы не можем позволить себе продолжать играть в догонялки с ИИ — разрешать его использование с ограниченными или отсутствующими границами или надзором и заниматься почти неизбежными последствиями в области прав человека после того, как это произошло”, — в заявлении М. Бачелет.
“Сила ИИ в служении людям неоспорима, но также неоспорима и способность ИИ нарушать права человека в огромных масштабах практически без видимых последствий. Сейчас необходимо принять меры, чтобы установить правовую защиту на пути использования ИИ для блага всех нас”, — добавила глава правозащитной организации.
Её замечания прозвучали вскоре после того, как офис М. Бачелет опубликовал доклад с анализом того, как ИИ влияет на право людей на частную жизнь, а также на ряд других прав, касающихся здоровья, образования, свободы передвижения и свободы выражения мнений.
Документ включает оценку профилирования, автоматизированного принятия решений и других технологий машинного обучения.
Хотя в докладе отмечается, что ИИ может быть использован в благих целях и может помочь “обществу преодолеть некоторые из великих вызовов нашего времени”, но его применение в качестве инструмента прогнозирования и профилирования может резко повлиять на “право частной жизни, на справедливый суд, на свободу от произвольного ареста и задержания и на право на жизнь”.
Согласно докладу, многие государства и компании часто не проводят должной проверки, спеша внедрить приложения ИИ, и в некоторых случаях это приводит к опасным ошибкам, когда некоторые люди подвергаются жестокому обращению и даже аресту из-за несовершенного программного обеспечения для распознавания лиц.
Между тем, распознавание лиц потенциально может позволить неограниченную слежку за людьми, что может привести к возникновению целого ряда проблем, связанных с дискриминацией и защитой данных.
Поскольку многие системы ИИ опираются на большие массивы данных, дальнейшие вопросы, связанные с тем, как эти данные будут храниться в долгосрочной перспективе, также представляют риск, и существует возможность использования таких данных в будущем, что может повлечь за собой значительные риски для национальной безопасности.
“Сложность среды данных, алгоритмов и моделей, лежащих в основе разработки и функционирования систем ИИ, а также намеренная секретность государственных и частных структур являются факторами, подрывающими значимые способы понимания общественностью влияния систем ИИ на права человека и общество”, — говорится в докладе.
Тим Энгельхардт, сотрудник по правам человека в отделе верховенства права и демократии, предупредил, что ситуация “ужасная” и что с годами она только ухудшается, поскольку некоторые страны и предприятия внедряют приложения ИИ, не исследуя многочисленные потенциальные риски, связанные с этой технологией.
Он приветствует соглашение ЕС об “усилении правил контроля”, но он отметил, что решение огромного количества вопросов, связанных с ИИ, не появится в ближайшем году, и что первые шаги по решению этой проблемы должны быть сделаны именно сейчас, иначе “многие люди в мире заплатят слишком высокую цену”.
“Чем выше риск для прав человека, тем строже должны быть юридические требования к использованию технологий ИИ”, — добавила Бачелет.
Доклад и комментарии М. Бачелет появились после июльских разоблачений того, что шпионская программа, известная как Pegasus, использовалась для взлома смартфонов тысяч людей по всему миру, включая журналистов, правительственных чиновников и правозащитников.
Телефон министра финансов Франции Бруно Ле Мэра был лишь одним из многих, в отношении которых проводилось расследование в связи со взломом с помощью шпионской программы, разработанной израильской компанией NSO Group.
NSO Group с заявлением, в котором не рассматривались обвинения, но говорилось, что компания “продолжит предоставлять разведывательным и правоохранительным органам по всему миру жизненно важные технологии для борьбы с террором и преступностью”.
Выступая на слушаниях в Совете Европы, посвященных последствиям, вытекающим из спора о шпионских программах Pegasus, М. Бачелет сказала, что разоблачения не стали неожиданностью, учитывая “беспрецедентный уровень слежки по всему миру со стороны государственных и частных структур”.
Источник:
