По мере развития технологий споры о сфере их применения становятся все горячее. Могут ли частные компании, занимающиеся разработкой искусственного интеллекта, сотрудничать с военными? Кто должен регулировать подобные этические вопросы? Газета The New York Times на примере одной компании попыталась разобраться в вопросе, а мы законспектировали главные тезисы.

Предыстория

Несколько месяцев назад стало известно, что компания Clarifai Inc. (специализируется на создании нейросетей, распознающих изображение) приняла предложение Пентагона помочь в разработке искусственного интеллекта, который будет анализировать видео с дронов. Такая технология могла бы спасти жизни солдат и мирных жителей.

Основатель технологического стартапа Мэттью Цейлер писал в своем блоге: «Миссия Clarifai Inc — способствовать прогрессу гуманизации искусственного интеллекта».

Параллельно с этим заявлением компания объявила о том, что будет разрабатывать новые корпоративные этические принципы. Это совпадало с общими настроениями: журналисты, активисты, исследователи, а также такие гиганты индустрии, как Google и Microsoft, переосмысляли свои этические принципы, потому что искусственный интеллект наряду с положительными свойствами, мог представлять собой и угрозу.

Проговаривалась и такая идея: решением проблемы может быть только государственное регулирование, так как в бизнесе этика не всегда может конкурировать с финансовой выгодой. «Мы не хотим коммерческой гонки, — сказал президент Microsoft Брэд Смит на New Work Summit, — нужен закон».

Конфликт

Вопреки ожиданиям, новая корпоративная этика в Clarifai Inc. так и не появилась. Поэтому в конце января этого года часть сотрудников написала открытое письмо Цейлеру, выражая несогласие работать на военных. Через несколько дней на общем собрании он ответил, что такой маленькой компании не нужно разрабатывать отдельные этические документы. А технологии, разработкой которых занимается стартап, еще внесут свою лепту в создание автономного оружия. Ведь с помощью системы распознавания изображений оружие станет точнее, следовательно, сопутствующий ущерб будет меньше.

После этого заявления автор письма и советник по этике Лиз О’Салливан покинула компанию.

Президент Microsoft Брэд Смит также не видит проблемы в сотрудничестве с военными. «Военным США поручено защищать свободы этой страны, — сказал он на конференции. — Мы должны поддерживать людей, которые рискуют своей жизнью».

Другие сложности

Сложности относительно этики искусственного интеллекта заключаются не только в том, что у каждой стороны свой интерес, но и в том, что сама технология далека от совершенства. Беспилотные автомобили не видят некоторых препятствий на дороге, а система распознавания лиц с меньшей вероятностью узнает женщину или человека с темным цветом кожи.

Опыт Google

Google поступил по-другому. Компания работала над тем же проектом Пентагона, но из-за протеста сотрудников вышла из игры. После чего в Google подготовили документ «Принципы ИИ». А несколько лет назад, после покупки передовой лаборатории DeepMind, в компании создали внешний совет по этике. Подобные инициативы были и со стороны других компаний, например, Microsoft и Facebook. Но автор The New York Times называет их «в основном беззубыми».

«Люди признают, что есть проблемы, и они хотят изменить это», — сказала Мередит Уиттакер, сотрудник Google и соучредитель AI Now Institute (организация, которая изучает социальные последствия искусственного интеллекта). Но несмотря на это, капитализм диктует компаниям больше думать о прибыли, а не об этике.

Итоги

Логичным выходом кажется государственное регулирование. Некоторые призывают к созданию международных договоров, которые запрещали бы использование автономного оружия. Но многие эксперты считают, что этика вряд ли будет иметь большое значение в этом вопросе, потому что Пентагон не хочет отставать от Китая, России и других международных конкурентов.

Обложка: U.S. Army National Guard Photo by Staff Sgt. George B. Davis

Дарья Панчук