Поддержать деятельность МХГ                                                                                  
Russian English
, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,

 

Бегущий искусственный интеллект



Права человека в цифровую эпоху требуют защиты, технология распознавания лиц и боевые роботы должны быть запрещены – с такими требованиями выступают правозащитники.

Интерес к теме искусственного интеллекта со стороны общественников резко появился не так давно. Еще в прошлом году не было больших публичных обсуждений и дискуссий, а сейчас Московская Хельсинкская Группа проводит серию встреч, активисты запускают петиции.

С одной стороны, может показаться, что технологии во всем полезны и приводят только к развитию, но в то же время они могут привести к формированию расистских, сексистских позиций с помощью алгоритмов, или обернуться цифровой диктатурой. Вспомнить хотя бы, как в 2018 году активиста «Другой России» Михаила Акселя задержали в метро по сигналу с видеокамеры, опознавшей его по ориентировке Центра «Э». И он не был в розыске.

Вопрос этики технологий звучит все громче. Команда Московской Хельсинкской Группы посвятила ежегодные Богоразовские чтения теме прав и свободы в цифровом мире и вопросам того, что происходит с правом на жизнь и на неприкосновенность частной жизни. Беспокоят проблемы автономных систем вооружения (работающих без какого-либо участия человека). Активистка Алена Попова представляет кампанию Campaign to Stop Killer Robots. Пугает сложность работы алгоритмов глубинного обучения (так называемый «черный ящик») и отсутствие ценностей у роботов. Именно поэтому активисты выступают против боевых роботов и призывают мировое сообщество объединиться, решать вопрос на уровне международного права.

Активисты уверены, что ответственность будет перекладываться с человека на алгоритмы, а военные преступления могут легко превратиться в «издержки войны». Игнорировать этические вопросы в технологиях становится просто опасно для развития общества.

Правозащитники беспокоятся за человеческую жизнь, права и свободы, перепридумывают новый кодекс, которые поможет гражданам чувствовать себя защищенными, а не героями романа Оруэлла.

Наша команда посвящает конференцию и мастерскую теме искусственного интеллекта: российские исследователи, социологи и активисты вместе с экспертами из Центра изучения будущего интеллекта CFI Кембриджского университета разбираются, как меняется общество.

Осенью в России почти в одно время происходит запуск двух общественных кампаний против распознавания лиц: первая петиция команды активистки Алены Поповой «мое лицо – мои данные» и другая – от специалистов «Роскомсвободы».

Аргументы таковы: граждане не давали согласие (по закону необходимо давать согласие на обработку персональных данных, но с системой распознавания это не работает), злоупотребления, утечки данных, массовая слежка, изменение поведения и то, что вас могут задержать по ошибке (процент ошибочного распознавания достигает 35%, влияют национальность, возраст и пол). На сегодня две петиции подписали около шести тысяч человек. И пока МВД расширяет систему распознавания лиц в Москве, в Калифорнии полиции запрещается использовать технологию распознавания лиц.

В ноябре редакция Теплицы будет снова разбираться в теме искусственного интеллекта как технологии, которая несет прогресс и в то же время опасность. Все материалы по этой теме можно будет найти по тегу.

Разобраться во всем спектре технологий, которые используются уже сейчас, и понять, насколько они этичны, вы можете в игре «2024». Представьте себя на месте премьер-министра и попытайтесь сделать так, чтобы технологии не навредили.

Автор: Наталья Баранова

Источник: Теплица социальных технологий, 6.11.2019


МХГ в социальных сетях

  •  
Требуем прекратить давление на пермский "Мемориал"
Требуем остановить преследование верующих-мусульман по сфабрикованным обвинениям в терроризме
Требуем прекратить давление на Движение "За права человека" и остановить его ликвидацию
Защитить свободу слова и СМИ! Прекратить преследование Светланы Прокопьевой
Немедленно освободить актера Павла Устинова
Требуем остановить незаконные раскопки на территории мемориального кладбища Сандармох
Прекратить уголовное дело против участников мирной акции 27 июля 2019 года в Москве

© Московская Хельсинкская Группа, 2014-2019, 16+. Текущая версия сайта поддерживается благодаря проекту, при реализации которого используются средства гранта Президента Российской Федерации на развитие гражданского общества, предоставленного Фондом президентских грантов.