Google теперь считает допустимым использование ИИ в оружии и системах наблюдения
Компания внесла значительное изменение в свои принципы использования искусственного интеллекта.
Старший репортер Igor Bonifacic из Engadget, поделился новостью, что Google провела одну из самых серьезных корректировок своих принципов работы с ИИ с момента их первоначальной публикации в 2018 году. Как обнаружила газета The Washington Post, компания изменила документ, убрав обещание не «разрабатывать и не внедрять» технологии искусственного интеллекта для применения в вооружении и системах наблюдения. Ранее в этих принципах был раздел «Применения, которых мы не будем преследовать», который теперь отсутствует в обновленной версии.
Вместо него появился раздел «Ответственная разработка и внедрение», в котором Google заявляет, что будет использовать «соответствующий человеческий контроль, должную проверку и механизмы обратной связи для согласования с целями пользователей, социальной ответственностью и широко признанными принципами международного права и прав человека».
Это более широкая и расплывчатая формулировка по сравнению с конкретными обещаниями, которые компания давала еще в конце прошлого месяца, когда старая версия принципов была доступна на сайте. Например, ранее Google прямо заявлял, что не будет разрабатывать ИИ для использования в «оружии или других технологиях, основной целью которых является нанесение вреда или содействие причинению ущерба людям». Что касается технологий наблюдения, компания обещала не разрабатывать решения, нарушающие «общепринятые международные нормы».
Google объясняет перемены
Когда у компании запросили комментарий, представитель Google направил Engadget к опубликованному в четверг блогу. В нем генеральный директор DeepMind Демис Хассабис и старший вице-президент Google по исследованиям, технологиям и обществу Джеймс Маника объяснили, что развитие ИИ как «технологии общего назначения» потребовало обновления политики.
«Мы считаем, что развитие ИИ должны возглавлять демократические страны, руководствуясь такими основными ценностями, как свобода, равенство и уважение прав человека. Мы также уверены, что компании, правительства и организации, разделяющие эти принципы, должны работать вместе над созданием ИИ, который защищает людей, способствует глобальному развитию и поддерживает национальную безопасность», — заявили они.
«Руководствуясь нашими принципами в области ИИ, мы продолжим концентрироваться на исследованиях и приложениях, которые соответствуют нашей миссии, научному фокусу и областям экспертизы, а также согласуются с общепринятыми принципами международного права и прав человека, — всегда оценивая конкретные проекты, тщательно взвешивая потенциальную пользу и риски», — добавили представители Google.
Отказ от старых обещаний
Когда Google впервые опубликовал свои принципы работы с ИИ в 2018 году, это было после скандала с Project Maven — контрактом с Министерством обороны США, в рамках которого компания должна была разрабатывать ИИ для анализа данных с военных дронов. Проект вызвал серьезные протесты внутри компании: десятки сотрудников уволились в знак несогласия, а тысячи подписали петицию против него. В результате Google отказался от участия и представил новые принципы, которые, по словам тогдашнего CEO Сундара Пичая, должны были «выдержать испытание временем».
Однако к 2021 году Google снова начал активно стремиться к военным контрактам. Сообщалось, что компания «агрессивно» боролась за многомиллиардное соглашение с Пентагоном по облачным технологиям (Joint Warfighting Cloud Capability).
А в начале 2024 года The Washington Post выяснила, что сотрудники Google неоднократно работали с Министерством обороны Израиля, помогая расширять использование ИИ в военных целях.
