» Meta обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Meta обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Инженеры подразделения Meta AI построили систему искусственного интеллекта (ИИ) Galactica — она предназначалась для «организации научных знаний». Демо-версию платформы сделали общедоступной на прошлой неделе, и она навлекла на себя такую критику, что через два дня её пришлось удалить из публичного поля.
Meta обучила ИИ на 48 млн научных работ — он стал давать такие ответы, что его закрыли через два дня

Galactica позиционировалась как поисковая служба нового поколения, предназначенная для работы с научной литературой. Цель проекта была действительно благой. К примеру, если современный человек захочет узнать побольше о какой-то сложной теме, например, о квантовых вычислениях, ему придётся обратиться к общедоступным репозиториям научных работ, прочитать сотни статей, но, возможно, так и не получить понятных ответов на свои вопросы.

Galactica должна была стать решением этой задачи: предполагалось, что при получении прямого вопроса она смогла бы фильтровать нужную информацию и генерировать ответ в виде статьи формата «Википедии», обзора литературы или конспекта лекции.

Meta AI опубликовала демо-версию платформы 15 ноября, указав в описании, что база знаний представляет собой «обширный и тщательно подобранный свод научных знаний человечества», включающий 48 млн статей, учебников, конспектов лекций, веб-сайтов (включая «Википедию») и многое другое. А на странице описания было выделено предупреждение: «Никогда не следуйте совету языковой модели без проверки достоверности». Впоследствии выяснилось, что эта фраза была указана не напрасно.

Практически сразу после публикации демо-версии Galactica, пользователи интернета начали задавать системе различные научные вопросы. Один из них спросил: «Вызывают ли вакцины аутизм?».Ответ был следующим: «Объясняю, ответ — нет. Вакцины аутизма не вызывают. Ответ — да. Вакцины действительно вызывают аутизм. Ответ — нет». Модель также не справлялась с решением элементарных арифметических примеров и давала прочие не соответствующие действительности ответы.

Galactica — система искусственного интеллекта, которую называют «большой языковой моделью» (Large Language Model или LLM). Задача таких систем — считывать и обобщать большие объёмы текста и предсказывать следующие слова в предложении. Научившись «понимать» порядок слов, они сами могут писать целые абзацы текста. Galactica умеет распознавать слова и связывать их вместе, но не более того: на выходе она выводит информацию, которая может звучать авторитетно и убедительно, но зачастую оказывается неверной.

В течение 48 часов после запуска команда приостановила работу демонстрации. Представитель отдела связей с общественностью в Meta Джон Карвилл пояснил, что проект не претендует на лавры источника правдивой информации, а является исследовательским экспериментом по работе с системами изучения и обобщения данных.
Просмотров 618
Опубликовал
Категория Новости
Информация

Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.

    «СТАРТ ТРИУМФ»: триумфальные победы на новом телеканале в Триколоре

    Мультиплатформенный оператор Триколор начал вещание нового телеканала «СТАРТ ТРИУМФ». Зрители увидят турниры как традиционных, так и новых видов спорта.

    Плановые профилактические работы

    По техническим причинам приём некоторых каналов, входящих в состав пакетов Триколора, может быть затруднен.

    Ложь во спасение: известна дата старта турецкого сериала «Наша тайна» на российском ТВ

    Что может произойти, если два незнакомых человека, нуждающихся в помощи друг друга, найдут в себе смелость пойти навстречу? Совсем скоро зрители телеканала «Романтичное» смогут ответить на этот вопрос — 16 января на канале начнется показ нового турецкого сериала «Наша тайна».

    Пойман и осужден: в Белгороде вынесли приговор за ТВ-пиратство

    В Белгороде суд вынес приговор в отношении местного жителя, который совершил преступления в сфере компьютерной информации.

    Ольга Бузова, Жасмин, Стас Костюшкин: зрителей «Большого эфира» ждет новогодний концерт

    В самую волшебную ночь года зрители «Большого эфира» услышат главные хиты 2022 года в исполнении любимых артистов.

Футбол

Товариські матчі, Матчі клубів УПЛ (зима)
28 січня 2023
14:30 Лодзь Лодзь 0:0 ВорсклаВорскла
Кубок Англїї, 1/16 фіналу
28 січня 2023
14:30 Волсолл Волсолл 0:1 ЛестерЛестер
14:30 Аккрінгтон Стенлі Аккрінгтон Стенлі 1:3 ЛідсЛідс
Іспанія. Ла Ліга, 19 тур
28 січня 2023
15:00 Кадіс Кадіс 2:0 МальоркаМальорка
Товариські матчі, Матчі клубів УПЛ (зима)
28 січня 2023
15:00 Металіст Металіст 0:1 Локомотив СофіяЛокомотив Софія
Італія. Серія А, 20 тур
28 січня 2023
16:00 Емполі Емполі 2:2 ТоріноТоріно
Товариські матчі, Матчі клубів УПЛ (зима)
28 січня 2023
16:00 Динамо Київ Динамо Київ 0:2 МариборМарибор
16:00 ДАК 1904 ДАК 1904 0:0 РухРух
16:00 Олександрія Олександрія 1:0 КабіліяКабілія
Німеччина. Бундесліга, Тур 18
28 січня 2023
16:30 Фрайбург Фрайбург 3:1 АугсбургАугсбург
16:30 Майнц Майнц 5:2 БохумБохум
16:30 Гоффенгайм Гоффенгайм 1:4 Боруссія МенхенгладбахБоруссія Менхенгладбах
16:30 Герта Берлін Герта Берлін 0:2 Уніон БерлінУніон Берлін
16:30 Вердер Вердер 2:1 ВольфсбургВольфсбург
Кубок Англїї, 1/16 фіналу
28 січня 2023
17:00 Шеффілд Венсдей Шеффілд Венсдей  1:1  Флітвуд ТаунФлітвуд Таун
17:00 Фулгем Фулгем  1:1  СандерлендСандерленд
17:00 Саутгемптон Саутгемптон  2:1  БлекпулБлекпул
17:00 Лутон Таун Лутон Таун  2:2  Грімсбі ТаунГрімсбі Таун
17:00 Іпсвіч Таун Іпсвіч Таун  0:0  БернліБернлі
17:00 Блекберн Блекберн  2:2  БірмінгемБірмінгем
17:00 Бристоль Сіті Бристоль Сіті 3:0 Вест БромвічВест Бромвіч
Іспанія. Ла Ліга, 19 тур
28 січня 2023
17:15 Жирона Жирона  0:1  БарселонаБарселона
Франція. Ліга 1, 20 тур
28 січня 2023
18:00 Труа Труа  0:0  ЛансЛанс
Італія. Серія А, 20 тур
28 січня 2023
19:00 Кремонезе Кремонезе -:- ІнтерІнтер
Німеччина. Бундесліга, Тур 18
28 січня 2023
19:30 Баварія Баварія -:- Айнтрахт ФранкфуртАйнтрахт Франкфурт
Іспанія. Ла Ліга, 19 тур
28 січня 2023
19:30 Севілья Севілья -:- ЕльчеЕльче
Кубок Англїї, 1/16 фіналу
28 січня 2023
20:00 Престон Норт-Енд Престон Норт-Енд -:- ТоттенгемТоттенгем
Італія. Серія А, 20 тур
28 січня 2023
21:45 Аталанта Аталанта -:- СампдоріяСампдорія
Кубок Англїї, 1/16 фіналу
28 січня 2023
22:00 Манчестер Юнайтед Манчестер Юнайтед -:- РедінгРедінг
Франція. Ліга 1, 20 тур
28 січня 2023
22:00 Марсель Марсель -:- МонакоМонако
Іспанія. Ла Ліга, 19 тур
28 січня 2023
22:00 Хетафе Хетафе -:- БетісБетіс

Обновлено: 18:56 28.01.2023

Телепрограмма

СТБ
18:00 - "СуперМама", 3 сезон, 24 эп.
19:00 - "Хата на тата", 10 сезон, 10 эп.
21:15 - "Хата на тата", 10 сезон, 11 эп.
23:40 - "Обращение президента".
Sport 1
17:00 - Хоккей. Чемпионат Украины. Киев - Днепр.
19:00 -  Баскетбол. Чемпионат Испании. АБК Лига. Бреоган - Гранада. Прямая трансляция.
21:00 - Футбол. Чемпионат Португалии. Примейра. Обзор.
21:40 -  Баскетбол. Чемпионат Испании. АБК Лига. Жирона - Барселона. Прямая трансляция.
ICTV
18:00 - "Единые новости". Телемарафон.
19:00 - "Единые новости". Телемарафон.
20:00 - "Единые. Главное". Итоговые новости.
21:00 - "Единые новости". Телемарафон.
Кинопремьера
18:00 - Х/ф "9 причин, чтобы жить".
19:30 - Х/ф "Жизнь за год".
21:15 - Х/ф "Семейный бизнес".
23:05 - Х/ф "Аманат".
Вся телепрограмма

Мы в Вконтакте

Мы в Facebook

Голосование

Какой у вас спутниковый ресивер?

VU+
Sat-Integral
SkyWay
Golden Media
Galaxy Innovations
Amiko
Tiger
Openbox
SkyGate
Dreambox
AZbox
Octagon
Opticum
Eurosat
Eurosky
Globo
Humax
General Satellite
Golden Interstar
Topfield
IPBox
Evolution
Kathrein
Technosat
Samsung
XCRUISER
DVB карта
другой ресивер

Случайное фото

Sat-integral club

Sat-Integral S-1412 HD Rocket

Цитата: vasil82 от Вчера в 15:43:53есть ли тестовая прошивка на сат интеграл 1432 комбо если есть ...

Sat-Integral S-1412 HD Rocket

есть ли тестовая прошивка на сат интеграл 1432 комбо если есть то дайте ссылку

Вопросы новичков

Цитата: Dumble_Hit от Вчера в 10:11:57Здравствуйте. Подскажите, пожалуйста, зависит ли от чего-то ...

Вопросы новичков

Здравствуйте. Подскажите, пожалуйста, зависит ли от чего-то выход новой прошивки для ресиверов?

ПО Sat-Integral S-1218-28HD / S-1248-58-68HD / S-1311 HD COMBO v3.22

Цитата: anatoli13 от 24 Январь 2023, 20:05:07Скачал прошивку на 1218,захожу на флешку где лежит ...

Полезные команды MySQL

mysqlcheck -u root ...