Тим Кук говорит, что Apple будет внедрять ИИ в продукты, пока исследователи работают над решением проблемы предвзятости
Генеральный директор Тим Кук сделал редкий, хотя и осторожный, взгляд в «застенный сад» Apple во время части вопросов и ответов недавнего телефонного разговора о доходах, когда его спросили, что он думает о генеративном искусственном интеллекте (ИИ) и как он «видит его развитие».
Кук воздержался от раскрытия планов Apple, заявив заранее: «Мы не комментируем дорожные карты продуктов». Однако он признался, что компания заинтересована в этом направлении:
Цитирую.
«Я считаю, что очень важно подходить к этому вопросу взвешенно и обдуманно. Есть ряд вопросов, которые необходимо решить. … Но потенциал, безусловно, очень интересный».
Позднее генеральный директор добавил, что компания рассматривает «ИИ как огромный» и будет «продолжать вплетать его в наши продукты на очень продуманной основе».
Комментарии Кука о «взвешенном и продуманном» подходе могут объяснить отсутствие компании в области генеративного ИИ. Однако есть некоторые признаки того, что Apple проводит собственные исследования соответствующих моделей.
В научной статье, которую планируется опубликовать на конференции «Дизайн взаимодействия и дети» в июне этого года, подробно описывается новая система борьбы с предвзятостью при разработке наборов данных машинного обучения.
Предвзятость — тенденция модели ИИ делать несправедливые или неточные прогнозы на основе неверных или неполных данных — часто упоминается как одна из наиболее актуальных проблем для безопасного и этичного развития генеративных моделей ИИ.
Так рад, что OpenAI сдерживает свою предвзятость. pic.twitter.com/y4a7FUochR
— Бруклин Нэш (@realBrookNash) 27 апреля 2023 г.
В статье, которую в настоящее время можно прочитать в препринте, подробно описывается система, с помощью которой несколько пользователей вносят равный вклад в разработку набора данных системы ИИ.
Статус-кво генеративного ИИ не предусматривает обратной связи с человеком до более поздних этапов, когда модели, как правило, уже набрались опыта обучения.
В новом исследовании Apple обратная связь с людьми интегрируется на самых ранних этапах разработки модели, чтобы по сути демократизировать процесс отбора данных. В результате, по словам исследователей, получилась система, использующая «практический, совместный подход к внедрению стратегий создания сбалансированных наборов данных».
Стоит отметить, что данное исследование было задумано как образовательная парадигма, призванная стимулировать интерес новичков к разработке машинного обучения.
Может оказаться сложным масштабировать описанные в статье методы для использования в обучении больших языковых моделей (LLM), таких как ChatGPT и Google Bard. Однако исследование демонстрирует альтернативный подход к борьбе с предвзятостью.
В конечном итоге, создание LLM без нежелательной предвзятости может стать знаковым моментом на пути к созданию систем ИИ человеческого уровня.
Такие системы способны нарушить все аспекты технологического сектора, особенно в мире финтеха, криптовалютной торговли и блокчейна. Например, беспристрастные боты для торговли акциями и криптовалютами, способные рассуждать на уровне человека, могут встряхнуть мировой финансовый рынок, демократизировав торговые знания высокого уровня.
Кроме того, демонстрация беспристрастного LLM могла бы в значительной степени удовлетворить правительственные требования безопасности и этики для индустрии генеративного ИИ.
Это особенно важно для компании Apple, поскольку любой продукт генеративного ИИ, который она разработает или решит поддержать, выиграет от встроенного чипсета ИИ в iPhone и его 1,5-миллиардной пользовательской аудитории.