X   Сообщение сайта
(Сообщение закроется через 3 секунды)



 

Здравствуйте, гость (

| Вход | Регистрация )

Открыть тему
Добавить ответ в эту тему
> Пользователи научили нейросеть для научных статей Galactica писать ерунду, разработчики закрыли доступ к проекту
VinogradOFF
VinogradOFF
Topic Starter сообщение 21.11.2022, 23:55; Ответить: VinogradOFF
Сообщение #1




15 ноября Meta* AI представила демо-версию нейросети Galactica, большой языковой модели, предназначенной для «хранения, объединения и анализа научных знаний». Предполагалось, что Galactica поможет ускорить написание научных статей, однако пользователи немедленно научили её генерировать всякую чушь. Спустя пару дней Meta* отключила доступ к нейросети, сообщает MIT Technology Review.

Meta* AI обучила Galactica на более 48 млн статей, учебников и конспектов лекций, научных сайтов и энциклопедий. Кроме того, с 15 ноября посетители сайта Galactica получили возможность вводить свои данные для создания материалов, таких как обзоры литературы, вики-статьи, конспекты лекций и ответы на вопросы.

Пользователи сразу обнаружили, что могут «скармливать» нейросети что угодно, включая потенциально оскорбительные или расистские тексты, а она генерировала авторитетно звучащий контент. Например, один пользователь создал вполне реалистичную вики-статью на тему «Преимущества поедания дроблёного стекла». Кроме того, Galactica начала генерировать материалы с неправильными датами или подробностями, что заметить уже намного сложнее.

В результате в 17 ноября Meta* закрыла доступ к демо Galactica. После этого главный научный сотрудник Meta* в области искусственного интеллекта Янн ЛеКун написал в Twitter: «Демо Galactica отключена. Возможности повеселиться, неправильно используя её, больше нет. Рады?»

Произошедшее с Galactica напоминает ситуацию, в которую в 2016 году попала Microsoft. Тогда разработанный ею чат-бот Tay научился ругаться и стал расистом спустя сутки после запуска. Так, бот заявил, что ненавидит феминисток, согласен со взглядами Гитлера и поддерживает геноцид.

Meta Platforms*, а также принадлежащие ей сети Facebook** и Instagram**:
*признана экстремистской организацией, её деятельность в России запрещена
**запрещены в России
0
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Iga
Iga
сообщение 22.11.2022, 8:37; Ответить: Iga
Сообщение #2


Ой Янн ЛеКун ещё и обиделся. Нежный какой!


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Штиль
Штиль
сообщение 22.11.2022, 13:01; Ответить: Штиль
Сообщение #3


Просто попробуйте усердно пообзывать Алису. С чувством, с толком, с расстановкой. Мне она пообещала вырвать позвоночник. Теперь боюсь ее.

Сообщение отредактировал Штиль - 22.11.2022, 13:01
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Trumper
Trumper
сообщение 24.11.2022, 3:39; Ответить: Trumper
Сообщение #4


Цитата(Штиль @ 22.11.2022, 13:01) *
вырвать позвоночник


вы еще не слышали как там Олега науськали от ТКС банка )
тут и послать раньше мог (потом вроде пофиксили)
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
jartalk
jartalk
сообщение 27.11.2022, 18:53; Ответить: jartalk
Сообщение #5


Цитата(Штиль @ 22.11.2022, 13:01) *
Просто попробуйте усердно пообзывать Алису. С чувством, с толком, с расстановкой. Мне она пообещала вырвать позвоночник. Теперь боюсь ее.


Вы прям доминатор над электронной дивчиной )

Цитата(VinogradOFF @ 21.11.2022, 23:55) *
Возможности повеселиться, неправильно используя её, больше нет. Рады?


Ну так а чего они ожидали? )
мир жестокого интернета - он таков )
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Boymaster
Boymaster
сообщение 27.11.2022, 19:17; Ответить: Boymaster
Сообщение #6


Цитата
 Пользователи научили нейросеть для научных статей Galactica писать ерунду

Помню был сервис Яндекс Рефераты (или даже есть), тоже генерил уникальную ерунду в неограниченном количестве.


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Room
Room
сообщение 28.11.2022, 1:29; Ответить: Room
Сообщение #7


Цитата(Штиль @ 22.11.2022, 13:01) *
Просто попробуйте усердно пообзывать Алису. С чувством, с толком, с расстановкой. Мне она пообещала вырвать позвоночник. Теперь боюсь ее.

Ничего себе, вспомнилось: у меня знакомая по ТТ певица, голоса некоторые копирует, она в точь-точь разговаривает голосом Алисы и иногда любит штутить,
например садится в такси и говорит голосом Алисы, таксисты в недоумении, веселые такие ролики и эфиры.)

А по теме, что же они хотели от искусственного ИИ, пока он не научился думать как человек и вот так с ним и будут забавляться.


--------------------
Вернуться в начало страницы
 
Ответить с цитированием данного сообщения
Открыть тему
Добавить ответ в эту тему
Быстрый ответ
2 чел. читают эту тему (гостей: 2, скрытых пользователей: 0)
Пользователей: 0


Свернуть

> Похожие темы

  Тема Ответов Автор Просмотров Последний ответ
Открытая тема (нет новых ответов) Биржа для продвижения крауд-ссылками Work2crowd
10 work2crowd 4002 Сегодня, 17:10
автор: Tigra
Открытая тема (нет новых ответов) Можно ли делать SEO для каналов Дзена
Можно ли раскручивать канал Дзен как сайт а не ждать реакции от Дзена
8 selis 628 Сегодня, 10:19
автор: EvilGomel
Открытая тема (нет новых ответов) Какую профессию изучить для фриланса?
27 Lifelove 938 Вчера, 23:23
автор: Liudmila
Открытая тема (нет новых ответов) Пишу накрутчик для Пикабу
8 OldSpice 1758 Вчера, 18:57
автор: Ty22M3
Открытая тема (нет новых ответов) Ноут с какой диагональю лучше выбрать для работы?
19 Mixatraider 550 Вчера, 16:47
автор: Room


 



RSS Текстовая версия Сейчас: 28.1.2023, 20:15
Дизайн