Добавить новость
smi24.net
Все новости
Июль
2025
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26
27
28
29
30
31

'I have been fooled': Reddit user endures the roasting of a lifetime after asking how to download a 487MB book they worked on with ChatGPT for over 2 weeks

0

A Reddit poster going by Emotional_Stranger_5 says they spent 16 days working with ChatGPT on an illustrated children's book intended as a gift for a group of local kids. Believing that the chatbot had been invisibly toiling away creating 700 illustrated pages, they turned to the OpenAI subreddit to ask how to download the completed document.

The poster did receive the helpful advice they were looking for, but only after being roasted to a crisp.

(Image credit: e38383 and vovr on r/OpenAI)

ChatGPT had only been telling Emotional_Stranger_5 that it had been building a 700 page tome. The eager-to-help tone of large language models doesn't reflect actual intent or the long-term "memory" required to generate outputs over a span of days or weeks. Nothing beyond the output we see exists, at least in typical chatbot designs, and there was no book to download.

For numerous posters in the thread, Emotional_Stranger_5 received due comeuppance for trying to produce AI slop for kids, though the frustrated bookmaker clarified that they had not asked ChatGPT to write a book from scratch. They said that they personally spent two-and-a-half months adapting stories from Indian mythology and wanted ChatGPT to improve the flow of their writing and generate illustrations.

One confusing aspect of the user's plight is the number of pages involved. Who would feel the need to produce a custom 700-page book for children and how could they write that much in under three months? My best guess is that ChatGPT simply promised 700 pages because it's a number that exists, and not because there were really 700 pages worth of material.

To see how likely it is that someone really spent two weeks believing that ChatGPT was cooking up a book it wasn't, I asked the bot to produce an illustrated version of Moby-Dick. It affected the tone of a cheerful project manager, and laid out everything it needed from me, including the book's text, style instructions, and a preferred output format.

I uploaded the text of Moby-Dick, which is in the public domain, and the chatbot produced a "sample page" with placeholder text where images would go. I was able to download that page as a PDF, but when it came time to generate "the full whimsical illustrated edition of Moby-Dick," the bot avoided the task, asking follow-up questions about my preferences and telling me that "advanced PDF generation tools are temporarily unavailable" but that I could sort out more details while I waited.

I was surprised by how easy it still is to get a chatbot into a BS loop. It's possible Open AI's new "agentic" AI could be more capable of this sort of long-term task, though CEO Sam Altman has warned that it's "cutting edge and experimental."

When it comes to interacting with ChatGPT, Emotional_Stranger_5 says they've learned their lesson and will use it to format and illustrate their book project one page at a time, trusting only that it has produced a file after it's actually delivered it.

"I accept that I was fooled," they wrote. "But it was my first experience with AI and even though [it] turned out to be a steep learning curve, I am happy I did not waste months on it. Thanks to all of you who made me realise this quickly and saved time and heartbreak for me."

Part of ChatGPT's responses to my request for a fully illustrated PDF of Moby Dick. (Image credit: ChatGPT)

Several posters suggested—with varying degrees of derisiveness—that Emotional_Stranger_5 learned the wrong lesson from the incident, and that to create a meaningful gift, they should stop using ChatGPT and work on their personal writing skills.

"I think I am not a writer. Not a professional one. Not planning to be," Emotional_Stranger_5 said in their defense. "It's just a collection of stories for underprivileged children around me … The kids are great and I wanted them to have something that they can hold on to for a long time."

It's curious that someone can apparently spend over two months writing modernized versions of myths and then say (in writing no less) that they aren't a writer. You'd expect such a non-writer to simply have purchased some children's books, which I'm pretty sure would be cheaper than printing and binding two dozen 700-page, fully illustrated books.

Strange days. LLMs are treated like eccentric wizards who will free us from our human limitations, but they sure don't seem to be advancing past their own original limitations. Meanwhile, the chatbot users I've encountered do seem ambitious, but at the same time are convinced they have limitations that they don't.

I'm digressing into shower thoughts territory here, but if I were backing LLMs, I'd be a bit worried by how much of their direct-to-consumer moneymaking already seems to rely on the dodgiest activities the tech enables: seeking shortcuts to creativity, cheating in school, taping together shoddy software, receiving unlicensed "therapy," and getting hooked on simulated erotic relationships. All while the bots are still confusing customers by BSing them because that might be an unfixable problem.

Maybe it's unrealistic to expect new tech to start life as a shining example of our highest ideals, but even just a convincing LLM videogame NPC seems far away or impossible, and it's not an absurd ask from an industry that likes to claim that this is the ticket to "super intelligence." (And we're almost there, right?)

To bookend this post with Star Trek references, you could get an LLM to play the Moriarty to your Sherlock Holmes, but if you challenged the criminal mastermind to a game of chess, there's a decent chance he'd become confused about which piece is which and beg to start over.








Арбуз, кукуруза и холодные напитки: диетолог Садыков назвал продукты, которые портят ваш сон летом

Гордости Angsana Velavaru

В Третьяковке на Кадашевской набережной открылся концертный зал

Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве


Las 'Guerreras del Agua' se dan un baño de bronce en el Mundial de Singapur

Brit Who Fought Usyk Calls For Daniel Dubois To ‘Leave The Sport’ After Staying Down In Rematch

Madeline Brewer Marries Jack Thompson-Roylance in England!

La UFC anuncia un mes de octubre mayúsculo


Возбуждено первое в России уголовное дело о дропперстве

Navicon представляет комплексную систему для интегрированного управления данными

В лобовом столкновении кроссовера и грузовика погибли два человека

Снижены цены на самый дорогой кроссовер Chery в России


Первый трейлер Battlefield 6

'I destroyed months of your work in seconds' says AI coding tool after deleting a devs entire database during a code freeze: 'I panicked instead of thinking'

Brütal Legend is free in honor of Ozzy Osbourne, but only for 666 minutes

Microsoft warns of 'active attacks' on its government and business server tech, with one cybersecurity expert claiming that they should 'assume that you have been compromised'



Росгвардия и МЧС провели совместные учения в Москве

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры


Оркестр полиции Республики Сербской впервые выступит на фестивале «Спасская башня» в Москве

Благодаря новому промышленному объекту в САО возможность трудоустройства получат более тысячи квалифицированных специалистов

В Третьяковке на Кадашевской набережной открылся концертный зал

В студии Детского радио прошла церемония гашения почтовой марки


Эксперимент без гарантий. История «Маруси», которая променяла Калифорнию на алтайские поля

В Главном управлении ФССП России по Московской области состоялось заседание коллегии

Участник ЛизаАлерт из Бурятии помог спасти мужчину в лесу подмосковья

Михаил Ефремов разъехался с женой на фоне новостей о разводе


Медведев обыграл У Ибина и вышел в 1/4 финала турнира в Вашингтоне

«Следующая остановка — Монреаль!» Потапова полетела в Канаду для участия в «тысячнике»

Мальцев и Платонова взяли серебро ЧМ, Бублик вышел в полуфинал Кицбюэля. Главное к утру

Медведев победил У Ибина и вышел в четвертьфинал турнира ATP в Вашингтоне


Пирамиды строили люди, а не инопланетяне: технологии на службе у науки

Шаляпин успокоил дочь Бони Анджелину после ее конфликта с мамой

Володин отметил профессиональный праздник следователей.

Группа Аквилон передала государству первые квартиры


Музыкальные новости

Пир на Волге и Башмет: какие праздники ждут Ярославль в августе

Распродавал дома оставил миллионный долг — что достанется родственникам Оззи Осборна и почему он избавлялся от недвижимости в США

Владимир Высоцкий в виде цифрового аватара «выступит» в Москве

Фестиваль Ruskeala Symphony завершился увертюрой Чайковского и фейерверком


В Санкт-Петербурге обсудили внедрение ИИ в разработку и оптимальные корпоративные архитектуры

Росгвардия и МЧС провели совместные учения в Москве

«Деловые Линии» сократили сроки авиаперевозок по более чем 4400 направлений по России

Utrace запускает услугу по валидации IT-систем для фармацевтического рынка


«Ужас, который я пережила, никому не пожелаю!»  Алёна Блин взяла в заложники ловца в новой серии «Погони» на ТНТ

Росгвардия и МЧС провели совместные учения в Москве

Кайрат Бермуканов поддержал Петра Яна перед боем в Абу‑Даби

Губернатор Архангельской области доложил Путину о поддержке новых территорий.


На Крымском мосту восстановили движение автотранспорта

На МКАД в Москве произошло массовое ДТП, движение затруднено

Несколько автомобилей столкнулись на внешней стороне 92-го км МКАД

В Москве росгвардейцы оказали помощь пострадавшей в ДТП мотоциклистке (видео)


Соболезнования в связи с авиакатастрофой в Амурской области выразили зарубежные лидеры

"Ультиматум Трампа: потенциальные последствия для Путина"

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

В сентябре Путину будет представлена обновленная программа строительства кораблей для ВМФ.


Штамм коронавируса "стратус" захватил 22% всех вирусных заболеваний в Москве

Депздрав Москвы оценил ситуацию с распространением нового штамма коронавируса

Депздрав: новый штамм коронавируса «стратус» фиксируют в Москве с мая

Депздрав Москвы: новый штамм коронавируса "стратус" фиксируют в Москве с мая



Пластический хирург Софья Абдулаева: подтяжка груди нитями - эффективно ли это

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

Фитнес-марафоны на паузе: суд продлил домашний арест блогеру Лерчек

Новый штамм коронавируса "стратус" фиксируют в Москве с мая



Пять земельных участков для размещения НКО доступны на городских торгах

Игровые терминалы в ТЦ: союз ради будущего

Две трети россиян считают, что спортсмены зарабатывают слишком много

"Монсон о спортсменах, которые меняют гражданство в сложный период для России"


Лукашенко поделился мнением о самой идеальной профессии.

Лукашенко посоветовал не злить его и не допускать падежа в животноводстве

Лукашенко заявил, что в Белоруссии «на всякий случай» готовятся к войне


Сергей Собянин поздравил москвича — победителя международной олимпиады по физике

Сергей Собянин осмотрел Дом-музей Федора Конюхова

Сергей Собянин сообщил о росте темпов реализации программы реновации

Сергей Собянин. Главное за день


видео пожаров на Кипре стало доступно общественности

В центре внимания: CorpSoft24 вошел в рейтинг крупнейших ИТ-компаний России

Исследование выявило снижение инвестиций в экологически чистую энергетику США.

Бурмистров: лисы могут появляться на улицах Москвы в период расселения


Участник ЛизаАлерт из Бурятии помог спасти мужчину в лесу подмосковья

Шаляпин успокоил дочь Бони Анджелину после ее конфликта с мамой

Отсидевший четыре года за сходство с мошенником не смог доказать невиновность

Володин отметил профессиональный праздник следователей.


70 участников СВО в Архангельске показали мотивацию выше госслужащих — Цыбульский

Путин дал указание рассмотреть проблемы онкологии в Архангельской области.

В Нарьян-Маре из-за холодов возобновили подачу отопления в дома

В Архангельске началось обучение бойцов СВО, сообщил Цыбульский.


В Симферополе на базе «Клинического госпиталя для ветеранов войн» функционирует гериатрический центр для пожилых людей с возрастными нарушениями

В центре Балаклавы изменят дорожное движение – причины и сроки

"Россия дала мне возможность быть счастливым": Джефф Монсон в Крыму

Прогноз погоды в Крыму на 25 июля


Михаил Ефремов разъехался с женой на фоне новостей о разводе

МЧС предупредило москвичей о жаре до +30℃

Участник ЛизаАлерт из Бурятии помог спасти мужчину в лесу подмосковья

Οфициaльнο: Ποcлeдний aвиaнοceц Ροccии xοтят οтпpaвить нa мeтaллοлοм














СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *