Индия требует разрешения на выпуск «ненадежных» инструментов искусственного интеллекта

Правительство Индии выпустило новый совет, в котором говорится, что технологические компании должны получить разрешение на выпуск новых инструментов искусственного интеллекта (ИИ), которые считаются «ненадежными». В рекомендации, выпущенной индийским министерством информационных технологий 1 марта, подчеркивается, что перед тем, как выкладывать такие инструменты в открытый доступ в Интернете, необходимо получить разрешение правительства Индии.

Предварительное разрешение для ненадежных инструментов ИИ

Цель этого требования — гарантировать, что инструменты ИИ, находящиеся на стадии тестирования или те, которые могут давать неточные ответы на запросы, будут соответствующим образом маркированы. Министерство также подчеркнуло необходимость того, чтобы платформы гарантировали, что эти инструменты не представляют угрозы для целостности избирательного процесса, особенно в связи с предстоящими всеобщими выборами в Индии.

Критика и разъяснения

Этот совет появился после того, как высокопоставленный индийский министр раскритиковал Google и ее инструмент искусственного интеллекта Gemini за неточности и предвзятые ответы. В качестве примера приводился случай, когда Gemini охарактеризовал премьер-министра Индии Нарендру Моди как «фашиста». Хотя Google извинилась за эти недостатки и признала, что Gemini не всегда может быть надежным, заместитель министра информационных технологий Индии Раджив Чандрасекхар заявил, что платформы обязаны по закону уделять первостепенное внимание безопасности и доверию, а «ненадежность» не освобождает их от закона.
В связи с этим Индия объявила о намерении разработать климатические модели с искусственным интеллектом для прогнозирования суровой погоды. Правительство стремится бороться с распространением глубоких подделок, создаваемых ИИ, в преддверии предстоящих выборов — эту меру также применяют регулирующие органы в США.
Однако последний совет индийского правительства по ИИ подвергся критике со стороны технологического сообщества, обеспокоенного тем, что чрезмерное регулирование может помешать Индии занять лидирующие позиции в технологическом пространстве. Мартин Касадо, генеральный партнер компании a16z, заявил, что было бы «преступлением», если бы Индия сама регулировала свое положение лидера.
В ответ на возражения Чандрасекхар пояснил, что совет не направлен на подавление инноваций, а скорее на то, чтобы платформы знали о своих обязательствах и правовых последствиях создания или размещения незаконного контента. Он подчеркнул приверженность Индии искусственному интеллекту и стремление создать безопасный и надежный интернет для пользователей.

Партнерство с Microsoft

Отдельным событием стало партнерство Microsoft с индийским ИИ-стартапом Sarvam по внедрению в инфраструктуру ИИ Azure большой языковой модели (LLM) для индийских голосов. Это сотрудничество призвано расширить сферу применения технологий ИИ для большего числа пользователей на Индийском субконтиненте.

Поиск баланса

По мере того как Индия продолжает развивать свои возможности в области ИИ, поиск баланса между регулированием и инновациями остается важной задачей. Рекомендация правительства служит напоминанием о том, что ответственная разработка и внедрение инструментов ИИ необходимы для поддержания доверия общества и защиты от потенциального злоупотребления.