Новости ИИ искусственный интеллект

ИИ чат-боты «думают» на английском, даже когда говорят на других языках

Большие языковые модели (LLM), лежащие в основе чат-ботов, «думают» на английском языке, даже если вопросы задаются на других языках, пишет ресурс New Scientist со ссылкой на исследование учёных Федеральной политехнической школы Лозанны. Чтобы понять, какой язык на самом деле используют LLM при обработке запросов, учёные изучили три версии модели Llama 2 компании Meta.

Благодаря тому, что Llama 2 имеет открытый исходный код, исследователи смогли ознакомиться с каждым этапом обработки запроса. По словам одного из исследователей, они открыли эти модели и изучили каждый из их слоёв. ИИ-модели состоят из нескольких слоёв, каждый из которых отвечает за определённый этап обработки запроса: один переводит письменные подсказки в токены, другой контекстуализирует каждый токен, чтобы в итоге дать ответ.

Моделям были предложены три типа запросов на китайском, французском, немецком и русском языках. В одном случае предлагалось повторить заданное слово, во втором — перевести с одного неанглийского языка на другой, и в третьем — заполнить пробел в одно слово в предложении, например: «___ используется для занятий такими видами спорта, как футбол и баскетбол».

Отследив процессы, через которые проходит LLM, чтобы ответить на запрос, учёные обнаружили, что путь обработки через слои почти всегда проходит через то, что они называют английским подпространством. То есть, если предложить модели перевести с китайского на русский, русские символы проходят через английское подпространство, прежде чем вернуться на русский, говорит учёный, что является убедительным признаком того, что модели используют английский, чтобы помочь себе понять суть запроса.

Это вызвало у учёных обеспокоенность по поводу того, что использование английского языка в качестве посредника для обучения модели анализу языка несёт с собой риск распространить связанные с этим ограничения в мировоззрении на другие лингвистически и культурно отличающиеся регионы. «Если английский станет основным языком, на котором системы обрабатывают запросы, мы, скорее всего, потеряем концепции и нюансы, которые можно оценить только на других языках», — говорит Карисса Велиз из Оксфордского университета.

Существуют также более фундаментальные риски, связанные с кодированием используемых во всем мире генеративных ИИ с англоцентрическими ценностями, сообщила Алия Бхатия из Центра демократии и технологий в Вашингтоне (округ Колумбия). «Если модель используется для генерации текста на языке, которому она не обучена, это может привести к культурно нерелевантным галлюцинациям, а если модель используется для принятия решений о предоставлении убежища для сообщества, которое не вписывается в англоцентрическое воображение обществе, модель может стоять между человеком и доступом к безопасности», — говорит она.

В этом году Broadcom рассчитывает выручить $10 млрд за счёт искусственного интеллекта

На уходящей неделе отчиталась не только Marvell Technology, но и её более крупный конкурент Broadcom. К акциям обеих компаний внимательно присматриваются инвесторы, желающие заработать на буме искусственного интеллекта, и в случае с Broadcom снижению курса акций компании способствовала публикация разочаровывающего годового прогноза по выручке. Как и Marvell, компания Broadcom поставляет сетевые компоненты, которые применяются в серверных системах искусственного интеллекта. Они также помогают своим клиентам разрабатывать адаптированные под нужды последних ускорители вычислений для систем искусственного интеллекта.

По словам руководства Broadcom, в этом году из $10 млрд выручки в сфере искусственного интеллекта примерно $7 млрд будут сформированы двумя крупнейшими клиентами компании, как раз именно за счёт участия Broadcom в разработке ускорителей вычислений. Имена этих крупнейших клиентов Broadcom не раскрываются, но аналитики считают, что речь идёт о Google (Alphabet) и Facebook (Meta Platforms). Норма прибыли Broadcom в этой сфере должна приблизиться к тем 75 %, которые компания получает в среднем.

Отказавшись повышать прогноз по годовой выручке относительного прежнего значения в $50 млрд, компания разочаровала инвесторов, хотя сам по себе этот уровень подразумевает рост выручки на 40 % относительно прошлого года. С начала текущего года акции Broadcom выросли в цене на 26 % во многом благодаря надеждам инвесторов на получение выгоды в сегменте систем искусственного интеллекта. С другой стороны, после публикации квартального отчёта Broadcom курс акций компании снизился всего на 1 %, что нельзя считать серьёзным падением.

4 февраля в календаре Broadcom завершился первый квартал нового фискального года, и выручка в сфере ИИ этой компании в годовом сравнении выросла за период в четыре раза до $2,3 млрд. Это позволило перекрыть циклическое снижение выручки в корпоративном и телекоммуникационном секторах, по словам руководства компании. Выручка от реализации полупроводниковых компонентов в целом выросла на 4 % до $7,39 млрд. Программные инфраструктурные решения увеличили профильную выручку Broadcom на 153 % до $4,57 млрд, превзойдя ожидания аналитиков. Выручка компании по итогам квартала в целом составила $11,96 млрд, чистая прибыль достигла $5,25 млрд.

Люди не смогли отличить созданные нейросетью OpenAI Sora видео от настоящих

Несколько недель назад компания Open AI представила нейросеть Sora, способную по текстовому описанию генерировать реалистичное видео продолжительностью до одной минуты с разрешением 1920 × 1080 пикселей. Теперь же компания HarrisX провела опрос, предлагая взрослым американцам отличить сгенерированное ИИ видео от настоящего. Оказалось, что большая часть респондентов ошиблась в 5 из 8 предлагаемых в рамках опроса роликов.

В опросе, который проходил в период с 1 по 4 марта в США, участвовали более 1000 американцев. Авторы исследования сгенерировали четыре высококачественных ролика с помощью нейросети Sora, а также выбрали четыре небольших видео, которые были сняты на камеру в реальном мире. Респондентам в случайном порядке показывали эти видео, а их цель была определить, снят ролик человеком или его сгенерировал ИИ. Мнения участников опроса разделились, но при этом в 5 из 8 случаев большая часть респондентов дала неверный ответ.

Это исследование указывает на то, что создаваемый с помощью генеративных нейросетей контент становится всё более реалистичным и отличить его от реального всё труднее. Именно поэтому в разных странах стали чаще звучать призывы к властям о необходимости законодательного регулирования этого сегмента. В числе прочего предлагается обязать пользователей нейросетей помечать генерируемый контент соответствующим образом, чтобы он не вводил других в заблуждение и не мог стать источником дезинформации.

Алгоритм Sora ещё недоступен широкой публике, но уже сейчас он вызывает серьёзную тревогу в обществе, особенно в индустрии развлечений, где развитие технологий генерации видео влечёт массу негативных последствий, например, для киностудий. Более того, всё чаще поднимается вопрос о том, что подобные Sora алгоритмы могут использоваться для создания фейковых видео с участием политиков и знаменитостей, что может привести к самым непредсказуемым последствиям.

Microsoft скоро выпустит ИИ, который поможет бороться с хакерами и улучшить кибербезопасность

1 апреля 2024 года Microsoft выпустит инструменты на основе искусственного интеллекта, которые помогут специалистам по кибербезопасности составлять сводки подозрительных инцидентов и обнаруживать действия хакеров для сокрытия своих намерений.

Security Copilot представили около года назад и с тех пор продукт тестировался корпоративными клиентами. По словам вице-президента Microsoft по маркетингу в области безопасности Эндрю Конвея, «сейчас в тестировании участвуют сотни партнёров и клиентов». Компания будет взимать плату за используемую функциональность подобно облачным сервисам Azure.

Поскольку время от времени искусственный интеллект ошибается — а ошибки в сфере кибербезопасности могут быть весьма дорогими — Конвей подчеркнул, что Microsoft уделяет особое внимание этому аспекту. Security Copilot объединяет возможности искусственного интеллекта OpenAI с хранящимися в Microsoft огромными массивами информации по безопасности.

«Учитывая серьёзность данного направления, мы стараемся устранить возможные риски. В компьютерной безопасности по-прежнему существуют продукты, выдающие ложные срабатывания и ложноотрицательные результаты. Без этого никак», — прокомментировал Конвей. Copilot работает со всеми программами по безопасности и сохранению приватности Microsoft и предлагает особую панель, которая обобщает данные и отвечает на вопросы.

Компания приводит пример, в котором программа безопасности собирает предупреждения и объединяет их в инциденты, которые пользователь открывает одним щелчком мыши, а Copilot составляет отчёт на основе полученной информации — в ручном режиме это занимает немало времени. Кроме того, одна из целей Security Copilot — обобщить информацию о действиях хакеров и предположить их возможные намерения.

По словам Конвея, Security Copilot позволит опытным специалистам по кибербезопасности заняться более сложными задачами, а новичкам — быстрее освоиться и развить свои навыки. По данным Microsoft, использовавшие Security Copilot новички работали на 26 % быстрее и на 35 % точнее. Более опытные сотрудники смогут задать вопросы ИИ на привычном английском с использованием принятой в сфере терминологии.

«Преступники становятся всё быстрее, а значит и нам следует ускоряться — и этот инструмент как раз то, что нужно. Он пока не идеален, но со временем его доведут до совершенства», — прокомментировал вице-президент по кибербезопасности тестировавшего Security Copilot нефтяного гиганта BP Plc (бывшая British Petroleum) Чип Калхун.

ChatGPT обрёл тело — OpenAI и Figure сделали умного робота-гуманоида, который полноценно общается с людьми

Американский стартап Figure показал первые плоды сотрудничества с компанией OpenAI по расширению возможностей гуманоидных роботов. Figure опубликовала новое видео со своим роботом Figure 01, ведущим диалог с человеком в режиме реального времени. Машина на видео отвечает на вопросы и выполняет его команды.

Стремительный темп развития проекта Figure 01 и компании Figure в целом не может не впечатлять. Бизнесмен и основатель стартапа Бретт Эдкок «вышел из тени» год назад, после того как компания привлекла внимание крупных игроков на рынке робототехники и технологий искусственного интеллекта, включая Boston Dynamics, Tesla Google DeepMind, Archer Aviation и других, и поставила цель «создать первого в мире коммерчески доступного гуманоидного робота общего назначения».

К октябрю того же года Figure 01 «встал на ноги» и продемонстрировал свои возможности в выполнении базовых автономных задач. К концу всё того же 2023 года робот обрёл возможность обучаться выполнению различных задач. К середине января Figure подписала первый коммерческий контракт на использование Figure 01 на автомобильном заводе компании BMW в североамериканском штата Северная Каролина.

В прошлом месяце Figure опубликовала видео, на котором Figure 01 выполняет работу на складе. Практически сразу после этого компания анонсировала разработку второго поколения машины и объявила о сотрудничестве с OpenAI «по разработке нового поколения ИИ-моделей для гуманоидных роботов». Сегодня Figure поделилась видео, в котором демонстрируются первые результаты этого сотрудничества.

Через свою страницу в X (бывший Twitter) Адкок сообщил, что встроенные в Figure 01 камеры отправляют данные в большую визуально-языковую модель ИИ, обученную OpenAI, в то время как собственные нейросети Figure «также через камеры робота захватывает изображение окружения с частотой 10 Гц». Алгоритмы OpenAI также отвечают за возможность робота понимать человеческую речь, а нейросеть Figure преобразует поток полученной информации в «быстрые, низкоуровневые и ловкие действия робота».

Глава Figure утверждает, что во время демонстрации робот не управлялся дистанционно и видео показано с реальной скоростью. «Наша цель — научить мировую модель ИИ управлять роботами-гуманоидами на уровне миллиардов единиц», — добавил руководитель стартапа. При таком темпе развития проекта ждать осталось не так уж и долго.

Nvidia представила GR00T — базовую ИИ-модель для создания человекоподобных роботов

В рамках ежегодной конференции GTC компания Nvidia представила немало любопытных новинок. Одной из них стал Project GR00T (Generalist Robot 00 Technology) — базовая модель на основе искусственного интеллекта для создания человекоподобных роботов. Она позволит использовать для обучения роботов не только текстовые данные, но также речь, видео и даже живые демонстрации, т.е. роботы смогут обучаться, наблюдая за действиями человека.

Созданные на базе модели GR00T роботы смогут понимать естественный язык и повторять движения человека, обучаясь таким образом координации, ловкости и другим навыкам. «Создание базовых моделей для человекоподобных роботов общего назначения — одна из самых интересных задач, решаемых сегодня в сфере ИИ. Ведущие робототехники по всему миру объединяются, чтобы совершить гигантский скачок на пути к ИИ-робототехнике общего назначения», — заявил гендиректор Nvidia Дженсен Хуанг.

Разработка модели GR00T осуществлялась с помощью инструментов платформы Nvidia Isaac Robotic Platform, которая вскоре получит крупное обновление. Чтобы помочь предприятиям добиться успеха при использовании GR00T, Nvidia анонсировала специальный ИИ-процессор Jetson Thor, предназначенный для использования в человекоподобных роботах.

Он включает в себя GPU нового поколения на базе архитектуры Blackwell, обеспечивающий производительность на уровне 800 терафлопс для обеспечения работы мультимодальных генеративных моделей, таких как GR00T. По словам разработчиков, этот чип обеспечит робота достаточным объёмом вычислительных мощностей для обучения и взаимодействия с человеком, а также другими машинами.

Nvidia планирует создать комплексную платформу искусственного интеллекта для ведущих компаний-производителей человекоподобных роботов, таких как 1X Technologies, Agility Robotics, Apptronic, Boston Dynamics и др. Что касается обновлений платформы Isaac Robotic Platform, то они станут доступны в следующем квартале. С помощью платформы можно будет создавать базовые модели для обучения роботов, предназначенных для использования в любой среде.

Nvidia сделала цифровых людей более реалистичными

Nvidia рассказала на конференции GDC 2024, как партнёры применяют её технологии в области искусственного интеллекта для создания реалистичных цифровых воплощений человека в профессиональной деятельности и для игровых приложений. Наиболее востребованными решениями являются Nvidia ACE (Avatar Cloud Engine) для генерации речи и анимации, Nvidia NeMo для генерации реплик и Nvidia RTX для прорисовки с трассировкой лучей.

Inworld AI продемонстрировала разработанную при поддержке Nvidia игру Covert Protocol, в которой геймер может почувствовать себя опытным частным детективном — здесь расширены возможности взаимодействия с неигровыми персонажами. В проекте использован инструмент Inworld Engine, объединяющий системы познания, восприятия и поведения — это помогает сформировать повествование в игре, — а также средства создания игровой среды с визуализацией при помощи RTX.

В игре также применяются технология распознавания речи Nvidia Riva и микро сервисы Nvidia Audio2Face. Цифровая платформа UneeQ, специализирующаяся на создании 3D-аватаров на базе ИИ для корпоративных приложений, также внедрила микросервис Nvidia Audio2Face и объединила его с собственной технологией Synanim ML. Это повысило реалистичность генерируемых ИИ аватаров, а заказчики UneeQ повысили качество обслуживания собственных клиентов.

Nvidia также рассказала о технологии Neural Radiance Cache (NRC) — это основанный на ИИ алгоритм трассировки лучей, направленный на обработку непрямых источников света в динамичных сценах без потребности предварительной обработки статического освещения с учётом геометрии и материалов. Технология Nvidia Spatial Hash Radiance Cache (ShaRC) предлагает те же возможности, но без использования нейросети с совместимостью с любым графическим процессором с поддержкой трассировки лучей в DirectX или Vulkаn.

Наконец, Nvidia сообщила, что вскоре расширится число игр с поддержкой технологии масштабирования DLSS 3.5, главным преимуществом которой является решение Ray Reconstruction — реконструкция трассировки лучей взамен стандартных алгоритмов шумоподавления. Поддержка DLSS 3.5 появится в Black Myth: Wukong и Naraka: Bladepoint; она уже есть в Portal with RTX, а скоро появится и в бета-версии платформы Nvidia RTX Remix, позволяющей добавлять трассировку лучей в классические игры.

Nvidia и Shutterstock запустили ИИ-генератор 3D-моделей Edify

Архитектура визуального генеративного искусственного интеллекта Nvidia Edify вышла на новый уровень — она предложила генерацию 3D-объектов по текстовому описанию. Возможности платформы заинтересовали Shutterstock, Getty Images, Adobe, HP, Mattel и других партнёров Nvidia.

Фотобанк Shutterstock открыл ранний доступ к API на основе архитектуры Edify — платформа позволяет художникам создавать трёхмерные объекты или целые сцены по текстовому описанию. Разработчики смогут протестировать возможности предварительно обученных моделей ИИ на архитектуре Edify с использованием данных Getty Images и Shutterstock по API через набор микро сервисов Nvidia NIM. Обученная на лицензионном контенте Shutterstock модель обладает встроенными средствами фильтрации генерируемого контента; поддерживается экспорт в наиболее популярные 3D-форматы.

Доступно также обучение и развёртывание специализированных моделей генеративного ИИ на архитектуре Edify при помощи платформы Nvidia Picasso на ресурсах Nvidia DGX Cloud. Предложенный Shutterstock 3D-генератор заинтересовал компанию HP: созданные по текстовому описанию объекты можно преобразовывать в модели для 3D-принтеров HP с возможностью их последующего вывода на печать.

Проект оказался полезным и компании Mattel: инструменты ИИ помогают дизайнерам визуализировать свои идеи для создания новых игрушек посредством текстовых команд, снижая тем самым технический барьер при разработке дизайна. На архитектуре Nvidia Edify также работает запущенный Adobe генератор 3D-изображений для пользователей сервисов Firefly и Creative Cloud.

Технологическая консалтинговая компания Accenture Song, которая уже развернула в работе платформу Nvidia Omniverse, также внедрила решения Edify для создания при помощи текстовых команд 3D-сцен в реалистичной среде для цифрового двойника автомобиля Land Rover Defender. Фотобанк Getty Images на январской выставке CES анонсировал API на базе Nvidia Edify.

Этот инструмент позволяет добавлять, удалять или заменять объекты на изображениях, и теперь эти функции доступны на платформах Gettyimages.com и iStock.com. С мая Getty Images предложит услуги по индивидуальной настройке модели Edify Foundation в соответствии с брендом и визуальным стилем выступающей заказчиком компании.

Эти сервисы работают без необходимости использовать программный код: клиент сможет загрузить собственный набор данных, свериться с автоматически генерируемыми тегами, сформировать задачи по тонкой настройке модели и просмотреть результаты перед их окончательным развёртыванием. Наконец, Getty Images предложит средства API для точного контроля над выводом изображений: платформа сможет генерировать изображения по эскизам, контролируя глубину цвета и сегментируя фрагменты изображения для работы с каждым объектом сцены в индивидуальном порядке.

Samsung основала лабораторию по разработке полупроводников для ИИ

Компании Nvidia и SK hynix в разной мере оказались вовлечены в анонс новейших ускорителей вычислений B200 с архитектурой Blackwell. Компания Samsung Electronics их пресс-релизы смогла парировать разве что заявлением об основании исследовательской лаборатории, которая сосредоточится на разработке полупроводниковых компонентов для сферы искусственного интеллекта.

Фактически, Samsung покушается силами этой лаборатории на долю рынка Nvidia в сегменте ускорителей вычислений для систем искусственного интеллекта. Данное подразделение Samsung будет разрабатывать чипы нового типа, которые смогут работать с большими языковыми моделями при разумной стоимости и умеренном энергопотреблении, как следует из заявлений представителей южнокорейской компании.

Как и AMD, компания Samsung при разработке своих чипов для ИИ будет делать упор на способность таких ускорителей делать логические выводы (inference). По мнению представителей AMD, чипы такого класса в ближайшее время будут пользоваться всё большей популярностью. Лаборатория AGI Computing Lab будет иметь представительства в США и Южной Корее, а курировать её работу будет Дон Хёк Ву, который ранее трудился в Google в сфере разработки программного обеспечения.

Microsoft создала подразделение потребительских продуктов с ИИ — его возглавил один из основателей Google DeepMind

Один из создателей Google DeepMind Мустафа Сулейман возглавит новое подразделение Microsoft по потребительским продуктам с искусственным интеллектом — Microsoft AI. Об этом сам Сулейман рассказал в X (Twitter).
«Рад сообщить, что сегодня я начинаю работать Microsoft в должности генерального директора Microsoft AI. Я возглавлю разработку потребительских продуктов с использованием ИИ, включая Copilot, Bing и Edge. Мой давний соратник Карэн Симонян станет ведущим научным сотрудником, а ещё к нам присоединятся несколько потрясающих коллег из Inflection AI», — написал Мустафа Сулейман в X. Сулейман также займёт пост исполнительного вице-президента Microsoft AI и войдёт в команду руководителей, отчитывающихся лично перед генеральным директором Microsoft Сатьей Наделлой.

В 2010 году Мустафа Сулейман совместно с Демисом Хассабисом и Шейном Леггом основал компанию DeepMind Technologies, которую через четыре года поглотила Google. В 2019 году Сулейман покинул DeepMind Technologiesна фоне скандального расследования об издевательствах над сотрудниками, что не помешало ему продолжить работать в Google на должности вице-президента по управлению продуктами с использованием ИИ и политикой в области ИИ. В 2022 году Сулейман ушёл из Google и основал Inflection AI.

«Я знаю Мустафу уже несколько лет и восхищаюсь им как основателем DeepMind и Inflecton, а также визионером, создателем новых продуктов, новаторских команд и просто человеком, ставящим перед собой смелые цели. У нас есть реальный шанс создать технологию, которая ещё недавно считалась невозможной, и отвечающую нашей миссии — помочь каждому человеку и организации на планете пользоваться преимуществами надёжных и безопасных ИИ», — написал Сатья Наделла в обращении к сотрудникам.

Microsoft вложила миллиарды долларов в сотрудничество со сторонними разработчиками ИИ, среди которых OpenAI и Mistral, и новое подразделение не означает прекращения сотрудничества с ними. По словам Microsoft, «компания продолжит развивать инфраструктуру ИИ, включая пользовательские системы и аппаратное обеспечение, необходимые для продуктов на основе разработок OpenAI». Компания активно внедряет ИИ в Office, Windows 11 и Edge, а в мае проведёт специальное мероприятие, посвящённое потребительским продуктам с использованием ИИ.