Новости ИИ искусственный интеллект

Разработчики ChatGPT совершили открытие, которое может угрожать человечеству

Издание, со ссылкой на несколько источников в компании, пишет, что коллектив OpenAI сообщил совету директоров о прогрессе в неких разработках незадолго до увольнения их главы Сэма Альтмана. Шла речь о проекте Q-Star — прорыве в разработке ИИ. Q-Star якобы представляла из себя нейросеть, способную выполнять задачи на уровне живого человека (может обобщать, учиться и понимать).

Совет исследователей отметили мастерство ИИ и потенциальную опасность, которую представляют высокоинтеллектуальные машины, например, могут ли они решить, что уничтожение человечества отвечает их интересам.

Microsoft добавила бот ChatGPT в командную строку Windows 11, но пока в тестовом режиме

Microsoft добавила функции ИИ-чат-бота ChatGPT в Windows Terminal в составе тестовой сборки Windows 11 Canary. ИИ-возможности ChatGPT в составе Windows Terminal можно использовать для генерации команд, объяснения ошибок, а также для получения рекомендаций, как их исправить. Microsoft отмечает, что ИИ позволит объяснять команды на естественном языке, как и ошибки, возникшие при их выполнении.

Чат-бот также будет предлагать решения, например, альтернативную команду, если исходная не работает. Компания добавила интеграцию ИИ в канал Canary на прошлой неделе, и она работает так, как анонсировали на конференции разработчиков Build 2023. Однако функция пока не поставляется со встроенной большой языковой моделью и для её использования необходимо подключение к сервису Azure OpenAI.



Сервис доступен только по приглашению, а ключи API платные. Чтобы использовать чат-бот для терминала, нужно загрузить приложение с GitHub и установить его в Windows 11. После этого потребуется ввести конечную точку службы Azure AI и настройки чата терминала и сохранить эти данные. Настройка связывает чат терминала с назначенной службой AI (ChatGPT-3.5 или иной моделью).

Чат позволяет выбирать предложение от ИИ и копировать его непосредственно в строку ввода терминала, чтобы просматривать команды перед их выполнением. Также Terminal Chat распознаёт используемую активную оболочку и отправляет этот контекст службе AI. Благодаря этому ответы ИИ адаптируются к среде оболочки, будь то командная строка или PowerShell, что повышает релевантность и точность помощи.

США и союзники договорились о международном стандарте безопасности ИИ

США, Великобритания и более десяти других стран объявили о подписании первого в своём роде международного соглашения о том, как обезопасить системы искусственного интеллекта от злоумышленников. Документ предполагает создание ИИ-платформ, спроектированных таким образом, чтобы они были безопасными с самого начала их разработки.

20-страничный документ предусматривает, что компании, занимающиеся разработкой и эксплуатацией ИИ-систем, должны придерживаться стратегий, направленных на защиту пользователей и общественности от злоупотреблений. Содержание документа включает ряд общих рекомендаций, таких как мониторинг ИИ-систем на предмет злоупотреблений, защита данных от несанкционированного доступа и тщательная проверка поставщиков ПО.

Джен Истерли, директор Агентства кибербезопасности и безопасности инфраструктуры США (CISA), подчеркнула значимость международного консенсуса по данному вопросу. По её словам, впервые так много стран пришли к соглашению о том, что в фокусе разработки ИИ должна стоять безопасность, а не только инновационные функции или снижение затрат.

Это соглашение является частью глобальных инициатив, направленных на формирование будущего ИИ. Влияние ИИ настолько велико, что регулирование его развития становится ключевым вопросом для общества. Кроме США и Великобритании, к соглашению присоединились такие страны, как Германия, Италия, Чешская Республика, Эстония, Польша, Австралия, Чили, Израиль, Нигерия и Сингапур.

Этот шаг демонстрирует глобальное стремление к установлению стандартов в сфере ИИ. В документе также рассматриваются меры противодействия угрозам со стороны хакеров. Рекомендации включают выпуск ИИ-моделей только после проведения всесторонних тестов на безопасность. Однако в соглашении не затрагиваются сложные вопросы, касающиеся целесообразного использования ИИ и методов сбора данных. В Европейском союзе (ЕС) уже активно ведётся работа над регулированием ИИ.

Так, законодатели ЕС разрабатывают правила в этой области, а Франция, Германия и Италия недавно достигли соглашения о регулировании ИИ, включающего обязательное саморегулирование через кодексы поведения для основных ИИ-моделей. В то же время в США процесс регулирования ИИ замедлен из-за поляризации в Конгрессе. Администрация Джо Байдена призывает к более активному регулированию ИИ, поэтому в октябре Белый дом выпустил президентский указ, направленный на снижение рисков ИИ для потребителей, а также на укрепление национальной безопасности.

NVIDIA продала почти полмиллиона специализированных ИИ-ускорителей в третьем квартале, утверждают аналитики Omdia

Основная доля выручки NVIDIA в размере $14,5 млрд в сегменте оборудования для центров обработки данных в третьем квартале пришлась на продажи специализированных графических ускорителей H100 для ИИ и высокопроизводительных вычислений (HPC). По мнению аналитической компании Omdia, NVIDIA продала в третьем квартале этого года почти полмиллиона ускорителей A100 и H100, а спрос на эти продукты настолько высок, что срок поставок серверов с ними увеличился с 36 до 52 недель.



Эксперты Omdia считают, что крупнейшими покупателями графических ускорителей NVIDIA H100 являются компании Meta и Microsoft. По мнению аналитиков, каждая из них закупила по 150 тыс. указанных ускорителей. В свою очередь Google, Amazon, Oracle и Tencent купили по 50 тыс. указанных специализированных ускорителей. Примечательно, что основная часть серверных графических ускорителей поставляется операторам гипер масштабируемых облачных услуг. В свою очередь OEM-производители серверов (Dell, Lenovo, HPE) пока не могут забронировать достаточное количество графических процессоров для ИИ и высокопроизводительных вычислений, чтобы выполнить свои заказы на поставки серверов, утверждают специалисты Omdia.

Аналитики полагают, что продажи вычислительных графических процессоров NVIDIA H100 и A100 превысят полмиллиона единиц в четвертом квартале 2023 года. Между тем, спрос на H100 и A100 настолько велик, что срок поставки серверов на базе этих GPU достигает 52 недель. В то же время Omdia сообщает, что в целом объём поставок серверов в 2023 году сократится на 17–20 % по сравнению с прошлым годом, но при этом выручка в этом направлении вырастет на 6–8 % в годовом исчислении.

Следует также отметить, что практически все крупнейшие покупатели специализированных ускорителей NVIDIA H100 и A100 сами разрабатывают собственные специализированные GPU для задач ИИ, высокопроизводительных вычислений и графики. Поэтому в перспективе объёмы закупок оборудования у NVIDIA этими компаниями снизятся по мере перехода на собственные решения.

Amazon представила корпоративный чат-бот Amazon Q

У OpenAI есть ChatGPT. У Google есть чат-бот Bard. У Microsoft есть различные версии ИИ-помощников Copilot, предназначенные для разных задач. Компания Amazon во вторник наконец-то анонсировала своего ИИ-помощника — Amazon Q. Он разработан подразделением облачных вычислений Amazon и предназначен не для обычных потребителей, а для корпоративных пользователей.



Среди функций Amazon Q отмечаются возможность кратко формулировать содержание важных документов, заполнение заявок для внутренней поддержки компаний, ответы на вопросы о политике компании, помощь в редактировании и т.д. Он будет конкурировать с другими корпоративными чат-ботами включая Copilot, Google Duet AI и ChatGPT Enterprise.

В интервью изданию The New York Times исполнительный директор Amazon Web Services Адам Селипски выразил надежду, что Amazon Q имеет все шансы стать важным помощником для миллионов людей в их повседневных рабочих задачах.

За минувший год с момента выпуска ChatGPT компанией OpenAI многие другие ведущие технологические гиганты, включая Google и Microsoft, успели поддаться всеобщему буму ИИ и выпустить свои варианты чат-ботов, на основе технологий больших языковых моделей, вложив в эти разработки миллиарды долларов.

Компания Amazon в свою очередь лишь недавно начала говорить о своём интересе к подобным технологиям, а также планах развития в этом направлении. Например, в сентябре Amazon сообщила, что инвестирует до $4 млрд в компанию Anthropic, конкурента OpenAI, и будет заниматься вместе с ней разработкой специализированных ИИ-процессоров.

Также Amazon ранее представила сервис, который способен предоставлять доступ к разным ИИ-системам в рамках единой платформы. Являясь одним из ведущих операторов облачных вычислений, компания Amazon имеет большую пользовательскую базу среди корпоративных клиентов, которые хранят огромные объёмы информации на её облачных серверах.

По словам Селипски, её клиенты заинтересованы в использовании чат-ботов на рабочих местах, но они хотят быть уверены в том, что ИИ-помощники будут обладать достаточным уровнем защиты от утечек корпоративных данных. «Многие компании в разговоре со мной отметили, что они запретили своим сотрудникам использовать ИИ-чат-боты из соображений безопасности и конфиденциальности», — заявил Селипски.

Сэм Альтман фактически подтвердил версию, что его уволили из OpenAI из-за сверхмощной и секретной новой системы искусственного интеллекта, которую он помогал создавать, пишет Daily Mail.

Сообщается, что несколько сотрудников предупредили совет директоров компании, что этот проект под названием Q* ("Q звезда") становится настолько продвинутым, что уже может сдавать экзамены по математике и выполнять задачи критического мышления. Альтман не воспринял их предупреждения всерьез. 

В интервью Альтман не отрицал существование секретной программы, которая, по словам некоторых сотрудников, стала причиной его увольнения. 

Альтман имел возможность отрицать существование Q* и отвергать его как необоснованный слух. 

Вместо этого он фактически его подтвердил:

"Никаких особых комментариев по поводу этой злосчастной утечки". 

Специалисты, работающие в области искусственного интеллекта, предупреждают, что как только ученые-компьютерщики добьются создания общего искусственного интеллекта (AGI), он может стать более мощным, чем люди смогут с ним справиться, пишет издание.

"Они могли бы даже  рассматривать людей как угрозу, которую необходимо устранить, привлекая Интернет и компьютерную инфраструктуру для реализации плана конца света", - говорится в материале.

Такие опасения согласуются с прогнозами экспертов о том, что однажды ИИ достигнет точки, известной как сингулярность, когда технологии станут более мощными и интеллектуальными, чем люди могут конкурировать, изменив ход нашей эволюции.

Бывший инженер Google Рэй Курцвейл однажды предсказал, что сингулярность появится к 2045 году.

AMD заметно подняла прогноз по ёмкости рынка ускорителей для систем ИИ

Мероприятие AMD, на котором были в очередной раз продемонстрированы ускорители вычислений Instinct MI300 и MI300X, использовалось руководством компании для обновления прогноза по ёмкости профильного рынка. Если ещё недавно компания оценивала этот параметр в $150 млрд по состоянию на 2027 год, то сейчас она подняла планку до $400 млрд.

При этом генеральный директор Лиза Су не стала корректировать прогноз на ближайший год, заявив, что выручка компании от реализации ускорителей искусственного интеллекта в 2024 году «значительно превысит $2 млрд». Ёмкость профильной части рынка в текущем году AMD оценила в $45 млрд, хотя ещё в июне ориентировалась на сумму в $30 млрд, но оба значения учитывают и выручку от реализации таких ускорителей конкурентами. По прогнозам отраслевых аналитиков, совокупная выручка AMD в следующем году составит $26,5 млрд, поэтому от реализации ускорителей ИИ компания будет получать около 10 % общей выручки. NVIDIA за прошедшие три квартала текущего года в сегменте центров обработки данных выручила $29,12 млрд, но в эту сумму попали и доходы от реализации сетевых решений, а не только ускорителей вычислений. Лишь за третий квартал выручка NVIDIA в сегменте превысила $14 млрд.

Как поясняет Bloomberg, в интервью агентству Лиза Су заявила, что создание систем искусственного интеллекта, способных конкурировать с человеком, теперь «находится в пределах досягаемости», но распространение технологии сейчас пребывает на ранних этапах. Компания уже заручилась поддержкой крупных клиентов типа Microsoft, Oracle, Meta Platforms и OpenAI. Последняя будет использовать ускорители в не самой крупной языковой модели Triton, которая применяется для экспериментальных исследований в области искусственного интеллекта. Microsoft пообещала внедрить ускорители Instinct MI300X в своей облачной инфраструктуре Azure. Компании Dell и IBM тоже выразили готовность использовать новые ускорители AMD.

Лиза Су не считает, что рынок ускорителей вычислений будут делить между собой только две компании, и на нём, по её словам, найдётся место и для конкурентов AMD и NVIDIA. При этом доминирование последней она признаёт: «Я думаю, можно чётко сказать, что NVIDIA сейчас контролирует подавляющую часть рынка ИИ. Мы верим, что к 2027 году он превысит по ёмкости $400 млрд. И мы могли бы получить хороший кусок».

Генеративный ИИ Google преобразит сервис McDonald’s

McDonald’s объявил о сотрудничестве с Google для внедрения генеративного ИИ, начиная с 2024 года. Этот шаг, направленный на технологическое обновление компании, обещает радикально преобразить операционные процессы сети, предлагая клиентам лучшее качество обслуживания и более свежую пищу.

С 2024 года McDonald’s начнёт масштабное обновление своих ресторанов, включающее установку нового оборудования и ПО, а также использование облачных сервисов Google Cloud. Эти изменения охватят тысячи заведений по всему миру. Основная цель — использование генеративного ИИ для анализа огромных объёмов данных.

Это позволит оптимизировать рабочие процессы и улучшить качество обслуживания, в том числе подачу более горячей и свежей еды. Хотя McDonald’s пока не раскрывает подробности о специфике применения ИИ, в своем заявлении компания упоминает, что новые технологии помогут менеджерам быстрее выявлять и решать проблемы в бизнес-процессах сети, а также упростят работу персонала ресторанов и создадут новые возможности для клиентов.

Компания Wendy’s, также использующая Google Cloud AI, применяет аналогичный подход. Она уже тестирует систему ИИ для приёма заказов. Эти изменения могут говорить о широком внедрении автоматизации в индустрии общественного питания. В дополнение к этим инновациям, McDonald’s также реализует новую операционную систему, которая будет синхронизировать работу мобильного приложения и киосков для самостоятельного оформления заказов.

Это обновление нацелено на создание единого и интуитивно понятного пользовательского интерфейса. Компания уверена, что такой подход упростит процесс заказа для клиентов и позволит проводить более точные тесты и разрабатывать автоматизированные решения для улучшения операционной деятельности ресторанов.

Представлен ИИ-генератор изображений Imagine with Meta

Вслед за DALL-E, Midjourney и Stable Diffusion собственный отдельный генератор изображений представила компания Meta. В основу платформы, которая создаёт картинки по текстовым командам, легла обученная работе с графикой модель искусственного интеллекта Emu. Генератор получил название Imagine with Meta — он предлагает четыре картинки по одному запросу, но пока доступен только в США.

«Нам было приятно получать от людей отзывы о том, как они пользуются Imagine — функцией генерации изображений по тексту Meta AI для создания забавного и креативного контента в чатах. Сегодня мы расширяем доступ к Imagine за пределы чатов. Наша платформа обмена сообщениями предназначена для озорной двусторонней переписки, а теперь можно бесплатно генерировать изображения и в веб-интерфейсе», — рассказали в блоге компании.

Пока созданные Imagine with Meta картинки маркируются видимым водяным знаком, но в перспективе разработчик пообещал заменить его на невидимый — его будет генерировать ИИ, и обнаруживать его сможет тоже соответствующая модель. Такой водяной знак будет устойчив к традиционным манипуляциям с изображениями: к обрезке, изменению размера и цвета, снятию снимков экрана, сжатию, наложению шума, стикеров и многому другому, уточнили в Meta.

В перспективе компания планирует внедрять такую маркировку во многие свои продукты с изображениями, созданными ИИ. Пока служба Imagine with Meta доступна только для пользователей из США. Ранее Meta предложила пользователям Instagram и Facebook ИИ-генератор стикеров, но пользователи соцсетей начали использовать его для создания непристойностей — фильтры сервиса оказались недостаточно надёжными.

Microsoft, OpenAI и другие закупят ИИ-ускорители AMD Instinct MI300X как альтернативу дефицитным чипам NVIDIA

Meta, OpenAI, Microsoft и Oracle заявили, что планируют внедрить в свои системы новейшие ускорители для систем искусственного интеллекта AMD Instinct MI300X. Лидеры отрасли ясно дали понять, что ищут альтернативы дорогим и дефицитным ИИ-ускорителям NVIDIA, которые необходимы для создания и внедрения ИИ-платформ, включая ChatGPT.

Поставки высокопроизводительных ускорителей AMD Instinct MI300X стартуют в начале будущего года, и если он окажется подходящим для технологических компаний и поставщиков облачных услуг, это может снизить затраты на разработку ИИ-моделей и оказать конкурентное давление на NVIDIA, занявшую значительную долю этого рынка. Как отметила вчера AMD, MI300X основан на новой архитектуре CDNA3 и способен обеспечить очень высокую производительность. Одной из его отличительных особенностей являются 192 Гбайт современной высокоскоростной памяти HBM3, что отлично подходит для крупных моделей ИИ.

Глава AMD доктор Лиза Су сравнила Instinct MI300X с одним из лучших ускорителей на рынке — NVIDIA H100. «Эта производительность непосредственно улучшает взаимодействие нейросетей с пользователем. Когда задаёшь модели вопрос, хочется, чтобы она отвечала быстрее, особенно когда ответы становятся сложнее», — сообщила она. Главный вопрос в том, готовы ли использующие оборудование NVIDIA клиенты тратить время и деньги на внедрение продукции ещё одного поставщика.

AMD сообщила инвесторам и партнёрам, что усовершенствовала свой программный пакет ROCm, способный напрямую конкурировать с NVIDIA CUDA, к которому уже привыкли разработчики ИИ-систем. Ещё одним важным аспектом является цена: ускорители NVIDIA реализуются по $40 тыс. — AMD пока не раскрыла цены на Instinct MI300X, но, по словам Лизы Су, её продукт должен быть дешевле аналога от NVIDIA при покупке и эксплуатации.

AMD заявила, что уже заключила контракты с некоторыми клиентами. Meta планирует использовать новые ускорители в генераторах стикеров, ИИ-редакторе изображений и ИИ-помощнике. Технический директор Microsoft Кевин Скотт заявил, что доступ к AMD Instinct MI300X будет открыт в веб-сервисе Azure. Новые чипы будет использовать и облачная инфраструктура Oracle. OpenAI доложила, что будет пользоваться чипами AMD в проекте Triton — это не большая языковая модель вроде GPT, а платформа для исследований с доступом к соответствующим функциям оборудования.

На 2024 год AMD запланировала в сегменте ускорителей для центров обработки данных выручку в $2 млрд, но сообщила, что мировой рынок ИИ-чипов в ближайшие четыре года вырастет до $400 млрд. И чтобы преуспеть на этом рынке, AMD даже не потребуется побеждать NVIDIA, отметила доктор Су.