Перейти до вмісту
Плеєр YouTube · завантажиться за натисканням

ВідеоНовини та суспільствов індексі з

Як AI-моделі самі себе нейрослоплять?

607 переглядів на YouTube · опубліковано

Науковці дев'ять разів поспіль навчали мовну модель на тому, що написала попередня. Дев'ята замість текстів про церкви перелічувала різновиди зайців. А в інтернеті вже лежать книжки, яких не існує, судові рішення, яких ніколи не було, і машинні статті Вікіпедії. У ролику розбираємо, чи зіпсує це чат-бот, яким користуєтесь ви, хто засмічує інтернет вигадками, чи можна відрізнити машинний текст від людського і що з цим можете зробити ви. Книжки, яких нема, і зайці замість церков Чому модель псується, коли вчиться на собі Марко Бускалья і 10 вигаданих книжок Вигадані судові рішення і статті науковців Як машинний текст потрапляє у Вікіпедію Люди починають говорити як чат-бот Що насправді псує моделі, і чому детектори помиляються Хто найкраще впізнає машинний текст і що робити вам Що дивитися далі Головні джерела: Shumailov та ін., «AI models collapse when trained on recursively generated data», Nature, 2024: https://www.pure.ed.ac.uk/ws/portalfiles/portal/460496122/ShumailovEtalNature2024AIModelsCollapseWhen.pdf Gerstgrasser та ін., про накопичення даних, ICML 2024: https://arxiv.org/abs/2404.01413 NPR про вигаданий список книжок: https://www.npr.org/2025/05/20/nx-s1-5405022/fake-summer-reading-list-ai База судових справ Дем'єна Шарлотена: https://www.damiencharlotin.com/hallucinations/ Kobak та ін., Science Advances, 2025: https://arxiv.org/abs/2406.07016 Brooks та ін., машинний текст у Вікіпедії: https://arxiv.org/abs/2410.08044 Інститут Макса Планка, препринт про слова чат-бота в мовленні: https://arxiv.org/abs/2409.01754 Liang та ін., детектори і есе людей, які пишуть не рідною мовою, Patterns, 2023: https://arxiv.org/abs/2304.02819 Dugan та ін., RAID, ACL 2024: https://arxiv.org/abs/2405.07940 Russell, Karpinska, Iyyer, ACL 2025: https://arxiv.org/abs/2501.15654 Кадри: Pixabay, Wikimedia Commons — вільні ліцензії, автори — у закріпленому коментарі. Короткі офіційні фрагменти: OpenAI, Princeton University, Stanford University. Музика: Strategy — Ігор Білоус. Дивіться також: Всі бачать, що це написав ChatGPT. Ось чому: https://youtu.be/zJq_D26lPH8 Чому AI погоджується з неправдою: https://youtu.be/zn23pNIy1cQ #штучнийінтелект #ChatGPT #нейрослоп #AI #чатботи Фото церкви на обкладинці: Lewis Hulbert, CC BY-SA 3.0, Wikimedia Commons

Коментарі


Щоб написати, увійдіть.

Коментарів ще немає. Ваш буде першим.

Цей канал 133 відео в індексі

Більше від «Тектоніка»

Усі

Шорти цього каналу