Как минимизировать все риски, связанные с ИТ-программой, которая сможет принимать самостоятельные решения
Разработчик чат-бота Chatgpt компания OpenAI предупредила международное ИТ-сообщество о скором появлении искусственного интеллекта нового типа – общего назначения (artificial general intelligence – AGI), эффективность которого будет не ниже, чем у человека. Российские ИТ-эксперты отмечают активизацию работ по созданию AGI и в России тоже и связывают это со значительным объемом запросов на универсальную технологию как на внутрироссийском рынке, так и на рынках дружественных стран. «Усовершенствуя технологию AGI и используя ее на мощностях отечественной ИТ-инфраструктуры, мы сможем повысить экспортный потенциал российской ИТ-отрасли на 5-7% уже в ближайший год», - подчеркнул член комитета Госдумы РФ по информационной политике, информационным технологиям и связи Антон Немкин. При этом юридическое сообщество страны предлагает заранее минимизировать потенциальные негативные последствия от применения AGI на уровне законодательства. Федеральный закон об установлении порядка применения AGI различными субъектами правоотношений, их права и обязанности при использовании технологии поможет заложить адекватную правовую основу для использования таких технологий, согласны юристы и ИТ-эксперты.
Российские ИТ-эксперты пояснили, что под термином «искусственный интеллект общего назначения» разработчики OpenAI подразумевают ИИ, который решает задачи любого уровня сложности не хуже интеллектуально развитого человека или лучше. AGI создается для расширения возможностей человечества, в том числе для резкого роста экономического и научного потенциала, повышения уровня жизни людей, совершенствования сервисной сферы и многого другого.
Антон Немкин напомнил, что в России работы по созданию технологии открытого универсального искусственного интеллекта идут очень активно, например, в Пермском крае разработкой AGI заняты профильные вузы в коллаборации с крупнейшими ИТ-компаниями региона.
«Эта технология обеспечит прорывное развитие страны, так как она крайне востребована во всех отраслях экономики, в том числе потому, что позволит повысить производительность наших компаний, анализировать и проверять программный код, многократно ускорить практически все бизнес-процессы. Подобные технологии будут рады купить правительства всех дружественных стран, у которых нет своих возможностей приступить к реализации столь высокотехнологичного проекта», - сказал Антон Немкин.
Увлечение потребителей возможностями, которые открывает искусственный интеллект, также растет в геометрической прогрессии. Так, например, с августа 2022 года по февраль 2023-ого на фоне популярности, например, Midjourney и ChatGPT количество российских пользователей нейросетей выросло в пять раз, а продолжительность взаимодействия с искусственным интеллектом – в три, подсчитали аналитики Tele2. Сейчас самыми популярными остаются сети для генерации текста различной сложности и иллюстративного контента, так как именно эти задачи входят в список повседневных обязанностей многих пользователей.
ИТ-эксперты и юридическое сообщество отмечают ряд возможных проблем, связанных со злоупотреблением AGI, нарушением интеграции в использовании ИИ, отсутствием международного регулирования. И.о. директора Института конкурентной политики и регулирования рынков НИУ ВШЭ, партнер КА «Муранов, Черняков и партнеры» Олег Москвитин считает, что многие предлагаемые принципы развития ИИ, безусловно, заслуживают поддержки – в том числе, прозрачность операций с ИИ и общественный и экспертный контроль за его применением, а также активный обмен информацией между всеми заинтересованными сторонами в этой области.
«Положительное отношение ИИ к человеческому обществу и зашитый на подкорке программного кода гуманизм должны стать безусловными аксиомами в его работе. К сожалению, международное регулирование правоотношений в области AGI сейчас совершенно отсутствует, и современное состояние международного права не дает оснований для оптимизма и надежд на скорую и скоординированную работу по стандартизации деятельности ИИ», - заметил Олег Москвитин.
Ведущий юрисконсульт юридической компании ЭБР Анна Сарбукова рассказала о намерении профессионального сообщества подготовить пакет административных мер, в том числе разработать законодательную инициативу по установлению нормативно-правовой базы для использования AGI.
«AGI – так называемый сильный искусственный интеллект, который по уровню интеллекта будет соизмерим с интеллектом человека. При этом уже сейчас созданы подобные модели, например, модели Narrow AI. Главное отличие AGI заключается в том, что такой интеллект не просто сможет обучаться и делать самостоятельные выводы на основе той информации, которая ему доступна. OpenAI уже задумываются о том, как минимизировать все риски, связанные с программой, которая сможет принимать самостоятельные решения. Сформулированные ещё в 1942 году Айзеком Азимовым три закона робототехники слабо применимы на практике. Принятие федерального закона, в котором может быть установлен порядок применения AGI различными субъектами правоотношений, их права и обязанности при использовании AGI, - станет действенным выходом из сложившейся ситуации», - пояснила Анна Сарбукова.
По ее словам, законодательной инициативой, к примеру, можно ввести норму о том, что любой гражданин, использующий AGI, должен в обязательном порядке уведомлять остальных субъектов правоотношений о том, что им при создании контента был использован AGI. Для компаний-разработчиков моделей искусственного интеллекта можно установить обязательства по обучению модели таким образом, чтобы она не могла быть использована в военных или иных целях, опасных для человека, и не могла причинить вред людям. Для организаций, занимающихся вопросами здравоохранения, имеет смысл установить обязательства дополнительно проводить экспертную проверку диагнозов, поставленных AGI, силами врачей-людей. Также на уровне федерального закона можно ввести ограничения доступа к AGI: его смогут получить только те компании, которые прошли соответствующую проверку или сертификацию. Условия такой сертификации следует установить на уровне подзаконных нормативных актов – в рамках постановления правительства или акта ведомства, ответственного за контроль над применением AGI.
Антон Немкин полагает, что эти меры можно дополнить созданием национальной системы государственного мониторинга и контроля применения AGI различными организациями.
«AGI-технологии уже существуют, и теперь следует спрогнозировать их развитие и сделать необходимые превентивные шаги по законодательному регулированию этой совершенно новой для человечества реальности. Нам необходимо широкое обсуждение законодательных инициатив и совместная работа компаний-разработчиков, ученых, занимающимися проблематикой развития AGI, ведущих юристов в области цифрового права и даже философов и психологов, настолько сложна и многогранна эта сфера. Принятие превентивных законодательных норм поможет защитить общество от злоупотреблений новой технологией и даст четкие ориентиры для развития в реалиях совершенно новой индустрии 5.0 – времени ИИ, который превосходит человека», - заявил Антон Немкин.