ВідеоНовини та суспільствов індексі з
Як AI-моделі самі себе нейрослоплять?
607 переглядів на YouTube · опубліковано
Науковці дев'ять разів поспіль навчали мовну модель на тому, що написала попередня. Дев'ята замість текстів про церкви перелічувала різновиди зайців. А в інтернеті вже лежать книжки, яких не існує, судові рішення, яких ніколи не було, і машинні статті Вікіпедії. У ролику розбираємо, чи зіпсує це чат-бот, яким користуєтесь ви, хто засмічує інтернет вигадками, чи можна відрізнити машинний текст від людського і що з цим можете зробити ви. Книжки, яких нема, і зайці замість церков Чому модель псується, коли вчиться на собі Марко Бускалья і 10 вигаданих книжок Вигадані судові рішення і статті науковців Як машинний текст потрапляє у Вікіпедію Люди починають говорити як чат-бот Що насправді псує моделі, і чому детектори помиляються Хто найкраще впізнає машинний текст і що робити вам Що дивитися далі Головні джерела: Shumailov та ін., «AI models collapse when trained on recursively generated data», Nature, 2024: https://www.pure.ed.ac.uk/ws/portalfiles/portal/460496122/ShumailovEtalNature2024AIModelsCollapseWhen.pdf Gerstgrasser та ін., про накопичення даних, ICML 2024: https://arxiv.org/abs/2404.01413 NPR про вигаданий список книжок: https://www.npr.org/2025/05/20/nx-s1-5405022/fake-summer-reading-list-ai База судових справ Дем'єна Шарлотена: https://www.damiencharlotin.com/hallucinations/ Kobak та ін., Science Advances, 2025: https://arxiv.org/abs/2406.07016 Brooks та ін., машинний текст у Вікіпедії: https://arxiv.org/abs/2410.08044 Інститут Макса Планка, препринт про слова чат-бота в мовленні: https://arxiv.org/abs/2409.01754 Liang та ін., детектори і есе людей, які пишуть не рідною мовою, Patterns, 2023: https://arxiv.org/abs/2304.02819 Dugan та ін., RAID, ACL 2024: https://arxiv.org/abs/2405.07940 Russell, Karpinska, Iyyer, ACL 2025: https://arxiv.org/abs/2501.15654 Кадри: Pixabay, Wikimedia Commons — вільні ліцензії, автори — у закріпленому коментарі. Короткі офіційні фрагменти: OpenAI, Princeton University, Stanford University. Музика: Strategy — Ігор Білоус. Дивіться також: Всі бачать, що це написав ChatGPT. Ось чому: https://youtu.be/zJq_D26lPH8 Чому AI погоджується з неправдою: https://youtu.be/zn23pNIy1cQ #штучнийінтелект #ChatGPT #нейрослоп #AI #чатботи Фото церкви на обкладинці: Lewis Hulbert, CC BY-SA 3.0, Wikimedia Commons
Коментарі
Щоб написати, увійдіть.
Коментарів ще немає. Ваш буде першим.
Цей канал 133 відео в індексі
Більше від «Тектоніка»
Шорти цього каналу
0:50Чи в Нігерії навчили ChatGPT його улюбленого слова? #shorts
0:49Мавпа без людей заробляє мільйони на Ютуб #shorts
0:45Бот замість 700 людей — а потім знову наймають #shorts
0:53SpaceX 165 пусків, Росія — 17: хто виграє гонку в космосі #shorts
1:00Японію зламала не бомба? Наказ армії 17 серпня #shorts
0:46Москва хоче повернути НАТО в 1997-й #shorts
0:48Як зрозуміти, що велика війна почалась #shorts
1:31Британці оголосили про термоядерний синтез і відкликали за 4 місяці #shorts
1:11Дірак помилився: теорія відносності в золотій обручці #shorts
0:45Гуманоїд у клітці, а поруч — нянька #shorts
1:01Три прийоми, щоб AI не писав шаблонно #shorts
0:56





