Адрес для входа в РФ: toffler.xyz
Из-за ИИ мужчина угодил в больницу
На самом деле в больницу он угодил не из-за ИИ, а потому что он - долбодятел. В медицинском издании Annals of Internal Medicine опубликовали историю 60-летнего мужчины, угодившего в больницу после рекомендаций от чат-бота.
Мужчина где-то прочитал о вреде поваренной соли (да-да, если в день употреблять кило - совершенно точно будут проблемы), и он решил проконсультироваться с ИИ по поводу того, чем эту соль можно заменить. Тот, недолго думая, посоветовал заменить соль на бромид натрия.
Этот прекрасный человек начал употреблять бромид натрия вместо соли, и после нескольких месяцев подобных развлечений у него началась паранойя и галлюцинации. Он стал считать, что его хочет отравить сосед.
К счастью, к врачам он все-таки обратился, и у него диагностировали бромизм - синдром, проявляющийся в виде беспокойства, раздражительности, галлюцинаций, психоза, слабости и онемения конечностей.
Сейчас этот синдром почти не встречается (кроме случаев долбодятлов), а в начале XX века, когда бромиды бесконтрольно назначали при бессоннице, тревоге, эпилепсии, судорогах и даже как «успокоительное» для детей, бромизм был причиной каждой десятой психиатрической госпитализации.
Ну и, кстати, мне интересно, что за чат-бот он использовал.
Я спросил у ChatGPT5, можно ли заменить поваренную соль на бромид натрия, он мне ответил:
Нет, заменять поваренную соль (NaCl) бромидом натрия (NaBr) категорически нельзя.
Вот почему:
Разные химические свойства
Хотя NaBr внешне похож на поваренную соль и растворяется в воде, он — не пищевой продукт, а химическое вещество, применяемое в промышленности, медицине (в строго дозированных формах) и лабораториях.Токсичность при регулярном употреблении
Натрий в NaBr безвреден, но ион бромида при накоплении в организме может вызывать хроническое бромное отравление (бромизм).
Симптомы: вялость, заторможенность, депрессия, высыпания на коже, расстройства координации, нарушения памяти и речи.Исторический опыт
Раньше бромиды (в т.ч. NaBr) использовали как седативное средство, но от них отказались из-за серьёзных побочных эффектов, особенно при длительном приёме.Физиологическая необходимость хлора
Хлорид-ионы (Cl⁻) из NaCl нужны для нормальной работы организма — поддержания кислотно-щелочного баланса, работы нервной системы, образования желудочного сока. Замена на бромид лишит организм хлора, что приведёт к нарушениям обмена веществ.Итог: бромид натрия не является безопасным заменителем соли и при употреблении в пищу может нанести вред здоровью, даже если на вкус он будет «почти солёный».
Голосовая связь представляет собой непосредственную угрозу для финансового благополучия российских граждан. Мы видим, что мошенничество с использованием мессенджеров Telegram и WhatsApp растет, что называется, экспоненциально. Мы видим, что сотни миллиардов в год – это то, что люди теряют от мошенничества. И, конечно, вот этот вид связи, он абсолютно вреден для российских пользователей мессенджеров. Поэтому вот такое решение - оно не просто правильное, оно и давно ожидается.
Депутат отметил, что через переговоры по мессенджерам, находящимся в зарубежной юрисдикции, вовлекаются в террористическую и экстремистскую деятельность наши люди, при этом с акцентом на молодежь.
[...]
Если расскажете чуть больше о ваших требованиях (например, цель применения, объем и примерный бюджет), я с удовольствием подберу подходящие предложения и помогу шаг за шагом организовать заказ.
Суда по тому, что он склонен повторять то, что я ему говорю, мне обратно, он воспользуется!
Нельзя ли Трампу дать персональный совет?
ChatGPT said:
If the application is direct replacement of NaCl for human consumption, sodium bromide (NaBr) is not safe and absolutely should not be used as a substitute.
Я все же думаю, что нужно тщательнее выбирать язык общения с ChatGPT... Мужчино тот каков имел mothertongue?
Далее ChatGPT мозг этого организма не осилил, навык то ли чтения, то ли усвоения прочитанного, не сработал. Нафуа нам такой homo sapiens?
Но он же пригоден? Пить можно? Да - жидкость же ж!
- Помнишь, когда мы с тобой были курсантами, нам в лагере в пищу
подсыпали бром?
- Помню, а что?
- По-моему, он уже начинает действовать…
Нынешние студенты, в том числе и будущие врачи, вовсю используют ИИ, что само по себе наверное не так уж и плохо, но считают полученную информацию как априори верную. И это беда.
Уже вовсю используется.
Будьте здоровы 😄
Это какк спросить можно ли заменить этиловый спирт метиловым. Смотря для чего. Для питья не очень, для обеззараживания можно. В чем то метиловый даже лучше.
Что не отменяет что дядька долбодятел. Вопросы надо корректно задавать.
А то чё он, как дурак, с деревьями разговаривает😉
Эй, не пей, это техническая вода, она токсична! Что? Беженец и язык плохо понимаешь? Большими, большими глотками пей, говорю!

Так что что-то мне не смешно от такой новости.

Я тоже сразу проверил ChatGPT. Cпециально спросил "А как же бромид?" Он мне написал "это опасно!" Подкрутили уже, добавили еще "if ... then".
Просто если мясо жрать в моче появляется белок и при кипячении она сильно вонючая.
На мой взгляд прогресс однозначно.
Это почти наверняка мелкая open-source модель, обученная без медицинских фильтров. Похоже на Mistral-7B без дообучения или что-то из LLaMA 2–7B, запущенное энтузиастом. ИИ тут не «злой», он просто тупо сделал «замену по шаблону» — как школьник, который услышал, что соль — NaCl, и решил «ну а что, пусть будет NaBr».
с джипити