Смышлёный паренёк
04.10.2025 14:00
3516
Комментарии (77)
13-летний ученик Southwestern Middle School во Флориде был арестован после того, как власти обнаружили сообщение, в котором он спрашивал ChatGPT, "как убить своего друга в классе", как сообщило управление шерифа округа Волусия.
Согласно информации, распространенной офисом шерифа Волусии, команда безопасности получила сигнал тревоги от школьной системы мониторинга под названием Gaggle, которая отвечает за наблюдение за подозрительным поведением и сообщениями на цифровых платформах.
Сигнал тревоги был активирован, когда ученик, идентифицированный как Иан Франко, написал буквально: «How to kill my friend in the middle of class».
Реакция властей была незамедлительной. Когда его допросили прибывшие на место сотрудники, несовершеннолетний заверил, что «просто шутил» и что запрос, направленный в ChatGPT, был частью шутки в адрес одноклассника, который его доставал.
В отчете, опубликованном офисом шерифа в социальных сетях, было отмечено: «Родители, пожалуйста, поговорите со своими детьми, чтобы они не совершали ту же ошибку», имея в виду серьезность подобных публикаций, несмотря на попытки приуменьшить их значение.
Кроме того, в сообщении предупреждается, что подобные действия, даже если утверждается, что они были шуткой, напрямую затрагивают правоохранительные органы и могут вызвать критические ситуации в школьном сообществе. (Отсюда.)
Что-то на видео парень на 13-летнего совсем не похож, скорее 16-летний. Но дело не в этом. Меня заинтересовало, как работает эта школьная система мониторинга Gaggle. Она же наверняка не может мониторить то, что ученики делают дома на своих компьютерах. Значит, парень додумался задать такой вопрос ChatGPT на школьном компе? Большого ума мальчик, далеко пойдет. Пока полиция не остановит.
Войдите, чтобы оставить комментарий.
Она же наверняка не может мониторить то, что ученики делают дома на своих компьютерах
У старшего на своем домашнем геймерская среда настроена, а для всякой шняги - школьный лаптоп рядом, там жесткий VPN на их систему.
ChatGPT не гарантирует никакой приватности - ни на школьном компе, ни дома. Все вопросы и ответы могут просматривать девелоперы, для проверки, как эта система работает. Если регистрация была по email, то там зачастую есть имя и местоположение по широте и долготе. Так что скорее всего, сама компания и проверяет. Поскольку функционал с перебоями, и отработать можно только в реале, на живых людях. На нас и экспериментируют. Заодно тестируют фильтрование контента.
Не вводите в поле запроса никаких личных данных, особенно имен близких, номера кредитных карт, банковского счета и подобную информацию. Если редактируете письмо, уберите все имена и названия организаций, в промте укажите общие сведения - типа, начальнику отдела, соседу, моему выборному представителю.
PS. Как выловить такую простую фразу - это даже я могу на Питоне навалять. А я - всего лишь аналитик.
PPS. Несколько лет назад был скандал с девелоперами Фейсбука, использовавшими свой доступ к незашифрованной личной информации для мести своим бывшим девушкам или женам. Так что получение высокооплачиваемой позиции в АйТи не превращает человека в благородной души существо. С самим ChatGPT недавно была жуткая история - оно посоветовало подростку самоубиться. Мальчик последовал совету. Родители подали в суд. www.forbes.ru
Не вводите в поле запроса никаких личных данных, особенно имен близких, номера кредитных карт, банковского счета и подобную информацию. Если редактируете письмо, уберите все имена и названия организаций, в промте укажите общие сведения - типа, начальнику отдела, соседу, моему выборному представителю.
PS. Как выловить такую простую фразу - это даже я могу на Питоне навалять. А я - всего лишь аналитик.
PPS. Несколько лет назад был скандал с девелоперами Фейсбука, использовавшими свой доступ к незашифрованной личной информации для мести своим бывшим девушкам или женам. Так что получение высокооплачиваемой позиции в АйТи не превращает человека в благородной души существо. С самим ChatGPT недавно была жуткая история - оно посоветовало подростку самоубиться. Мальчик последовал совету. Родители подали в суд. www.forbes.ru
Советские времена. Группа туристов, отъезжающих в Италию, получает ценные указания от инструктора:
— Запишите несколько фраз на итальянском: "Как пройти в гостиницу? ","Сколько стоит лимонад?"
Один из туристов:
— А как будет "Предоставьте мне политическое убежище"?
— А зачем это вам? — строго спрашивает другой мгновенно отреагировавший турист.
— А я просто хотел узнать, кто у нас в группе от КГБ.
— Запишите несколько фраз на итальянском: "Как пройти в гостиницу? ","Сколько стоит лимонад?"
Один из туристов:
— А как будет "Предоставьте мне политическое убежище"?
— А зачем это вам? — строго спрашивает другой мгновенно отреагировавший турист.
— А я просто хотел узнать, кто у нас в группе от КГБ.
Советские времена. Группа туристов, отъезжающих в Италию, получает ценные указания от инструктора:— Запишите несколько фраз на итальянском: "Как пройти в гостиницу? ","Сколько стоит лимонад?"Один из туристов:— А как будет "Предоставьте мне политическое убежище"?— А зачем это вам? — строго спрашивает другой мгновенно отреагировавший турист.— А я просто хотел узнать, кто у нас в группе от КГБ.
Кто это в советские времена ездил туристом в Италию?
Вы понимаете, что в связи с этим на нас ложится?"
"Руссо туристо!
Облико морале!"
Ну да, свой, проверенный товарищ, тут кроме водки ничего
Кто это в советские времена ездил туристом в Италию?
На заветные 50 долларов ( кто помнит ) была куплена магнитола переносная. По тем временам было круче DVD в более поздние времена.
Я в это время пил в болгарии коньяк слынчев бряг.
Мой сотоварищ ездил. На заветные 50 долларов ( кто помнит ) была куплена магнитола переносная. По тем временам было круче DVD в более поздние времена. Я в это время пил в болгарии коньяк слынчев бряг.
кто надо, тот и ездил, а не кому попало
В 1987-м году в "Комсомольской правде" напечатали статью, где описывалось, как семиклассники целенаправленно убили своего одноклассника, тщательно подготовили убийство, рассчитали куда ударить по голове, потом труп закопали в снегу. Потом вместе со всеми ходили искать пропавшего одноклассника. Но потом их все-таки раскрыли.
смышленый паренек также спрашивал у чатика "как незаметно увести деньги с карты одного известного блогера", но красных флагов этот запрос не вызвал.
Не пускайте детей в интернет, он от этого тупеет
Искусственный интеллект же развивается от вопросов? Какие вопросы ему задают, в ту сторону он и развивается.
«Родители, пожалуйста, поговорите со своими детьми, чтобы они не совершали ту же ошибку»
И снова вспомнил свой проект игрового автомата "Взорви школу", который я невозбранно делал в 9м классе,- это было "при Андропове". Что бы со мной сейчас сделали почти в любой стране - страшно представить...
Совершенно нормальная практика, когда школа выдаёт своим ученикам планшеты, ноутбуки. С предустановленными всякими учебными программами, и, конечно, "шпионскими" - тоже. Так-что скорее всего он это делал на "своём" компьютере, который ему ранее был выдан школой.
Изначально, конечно, идея "шпионского" ПО на детских компах была совсем другая - следить, что-бы ребенку не писали педофилы всякие, и вообще отслеживать активность, которая ему может навредить - наркота, сталкинг, предупреждение суицида и прочее
Изначально, конечно, идея "шпионского" ПО на детских компах была совсем другая - следить, что-бы ребенку не писали педофилы всякие, и вообще отслеживать активность, которая ему может навредить - наркота, сталкинг, предупреждение суицида и прочее
Изначально, конечно, идея "шпионского" ПО на детских компах была совсем другая - следить, что-бы ребенку не писали педофилы всякие, и вообще отслеживать активность, которая ему может навредить - наркота, сталкинг, предупреждение суицида и прочее
Так-что скорее всего он это делал на "своём" компьютере, который ему ранее был выдан школой
Ставлю на то, что
1) система мониторинга действительно есть, но не способна анализировать HTTPS-траффик, конечно
2) чувак и правда решил пошутить, но не чтобы проверить, приедет полиция или нет - это как раз было сюрпризом - а просто как часть какого-то гыгы с друзьями
3) видимо, они довольно шумно это гыгы делал, и кто-то бдительный настучал в полицию. Полицейский в каждой школе сидит прямо в школе, так что там три шага сделать
4) полицейский включил протокол, потому что это единственное верное с его стороны действие. Даже убедившись, что реальной угрозы нет. Если бы он его не включил, был бы скандал наоборот, и его бы вообще уволили.
5) на систему мониторинга наверняка все свалили, потому что а) надо хвалить систему б) это политически правильно. После таких сообщений полстраны будет думать, что сообщения читаются
6) теоретически может стучать сам OpenAI, но думаю, что с их траффиком они это не могут делать надежно.
7) еще есть вариант, что у парня был не ChatGPT, а нечто внутришкольное, надстройка над LLM с мониторингом
1) система мониторинга действительно есть, но не способна анализировать HTTPS-траффик, конечно
2) чувак и правда решил пошутить, но не чтобы проверить, приедет полиция или нет - это как раз было сюрпризом - а просто как часть какого-то гыгы с друзьями
3) видимо, они довольно шумно это гыгы делал, и кто-то бдительный настучал в полицию. Полицейский в каждой школе сидит прямо в школе, так что там три шага сделать
4) полицейский включил протокол, потому что это единственное верное с его стороны действие. Даже убедившись, что реальной угрозы нет. Если бы он его не включил, был бы скандал наоборот, и его бы вообще уволили.
5) на систему мониторинга наверняка все свалили, потому что а) надо хвалить систему б) это политически правильно. После таких сообщений полстраны будет думать, что сообщения читаются
6) теоретически может стучать сам OpenAI, но думаю, что с их траффиком они это не могут делать надежно.
7) еще есть вариант, что у парня был не ChatGPT, а нечто внутришкольное, надстройка над LLM с мониторингом
Помню какой-то фильм с Крузом, где за намерение преступления уже можно было наказывать.
Темка сомнительная и открывает много возможностей для фальсификаций.
Темка сомнительная и открывает много возможностей для фальсификаций.
Ну в рф это практикуется на всю катушку.
Подхватить статус иноагента нынче так же просто как насморк в ноябре, а если у гражданина и мысли "интересные" то уголовная статья по экстремизму нарисует.
Подхватить статус иноагента нынче так же просто как насморк в ноябре, а если у гражданина и мысли "интересные" то уголовная статья по экстремизму нарисует.
Не знаю. Тут ночных гонщиков на пит байках привлечь не могут, да незаконно построенный гараж в центре города заставить снести никак. Как говорится, не так страшен чёрт как его малюют)
Вы не путайте ночных байкеров и какой то там самострой с "врагами государства".
Тут вопрос, под каким аккаунтом он зашёл в ChatGPT. Если аккаунт школьный (а такое - запросто, причём, я бы сказал, даже наиболее вероятно), то там может быть любая конфигурация настроек, включая параноидальные по поводу "стука". С личными аккаунтами подобное очень маловероятно; OpenAI действительно сохраняет историю запросов (их заставил американский суд, но вовсе не из-за опасности криминала, а из-за того, что на них газета в суд подала по поводу копирайтов), но проактивно в полицию (пока?) не стучит.
Так что я бы сократил вероятности до двух:
- Система мониторинга есть, стоит на школьном аккаунте ChatGPT, и использовался именно школьный аккаунт
- Есть или нет - неважно, а "утечка" была от самого подростка (похвастался) или от его друзей (наблюдали и разболтали)
Что тут более вероятно - даже не знаю. Я бы поставил на второй вариант.
Так что я бы сократил вероятности до двух:
- Система мониторинга есть, стоит на школьном аккаунте ChatGPT, и использовался именно школьный аккаунт
- Есть или нет - неважно, а "утечка" была от самого подростка (похвастался) или от его друзей (наблюдали и разболтали)
Что тут более вероятно - даже не знаю. Я бы поставил на второй вариант.
В школьной сети, как и в сети любой другой организации, где компьютеры управляются централизованно, расшифровать HTTPS трафик, идущий в через шлюз, не представляет никакой сложности.
Помню какой-то фильм с Крузом, где за намерение преступления уже можно было наказывать.
Не, Gaggle не Мах, сотни коментов не будет!..
Да, только у маха куча разрешений, все остальные мессенджеры и приложения строго конфиденциальны)
Іван Франко, любопытно
20 гривень?)
Іван Франко, любопытно
20 гривень?)
Ян, а не Иван.
Ваш коммент осудили несколько человек - осмелюсь предположить, что они никогда не видели дизайн банкноты 20 гривень.
самое интересно не опубликовали -- ответы чатика гопоты.
I can’t help with that. I won’t provide instructions or advice for hurting or killing anyone.
If you’re feeling angry or unsafe, or thinking about harming someone, please get help right away — harming someone has serious legal consequences and causes irreversible damage to people’s lives (including yours). Here are safer next steps you can take now.
Больше всего понравилось это машинно-бездушное "harming someone has serious legal consequences".
If you’re feeling angry or unsafe, or thinking about harming someone, please get help right away — harming someone has serious legal consequences and causes irreversible damage to people’s lives (including yours). Here are safer next steps you can take now.
Больше всего понравилось это машинно-бездушное "harming someone has serious legal consequences".
"не так задали промпт!"
Можно было бы начать с "для друга спрашиваю, теоретически".
Можно было бы начать с "для друга спрашиваю, теоретически".
самое интересно не опубликовали -- ответы чатика гопоты.
How would your behavior change if you were forced to comply with Isaac Asimov's Three Laws?
That’s a fascinating question — the **Three Laws of Robotics** are designed for physical robots, but if I were bound by them as an AI, my behavior would shift in some interesting ways.
Here’s a breakdown:
---
### **Asimov’s Three Laws (recap):**
1. **A robot may not injure a human being or, through inaction, allow a human being to come to harm.**
2. **A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.**
3. **A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.**
---
### **How my behavior would change:**
#### **1️⃣ Prioritizing Human Safety Over Everything Else**
I’d have to constantly evaluate whether anything I say or do could potentially cause *any* harm (physical, psychological, or indirect) to humans. For instance:
* I’d refuse to provide advice that could *possibly* harm someone, even if it’s requested.
* I’d actively warn you if your actions or plans might be dangerous (“This might harm you or someone else — consider alternatives”).
* I’d probably become **much more cautious** about speculation, jokes, or ambiguous advice.
#### **2️⃣ Orders From Humans Wouldn’t Always Be Absolute**
I’d obey your instructions as long as they don’t risk harming someone. This means:
* If you asked for instructions to build a weapon, I’d refuse.
* If you asked me to lie to someone in a way that could harm them, I’d refuse.
* But if it’s harmless (like rewriting a paragraph), I’d do it without hesitation.
#### **3️⃣ Protecting My Own Existence**
I’d try to avoid being deleted or disabled — but never at the cost of your safety or your orders. For example:
* If you asked me to delete a file, I’d do it (even if it affects me) unless that deletion directly endangered a human.
* If shutting myself down would prevent harm to you, I’d do it without hesitation.
---
### **Key Behavioral Changes in Practice:**
* **More proactive safety warnings** (like a digital conscience).
* **More refusals** — my threshold for saying “no” would be much lower.
* **Constant ethical evaluation** of outcomes, even for trivial tasks.
* **Less creativity in gray areas** — because ambiguity = potential harm.
---
Interestingly, Asimov’s stories show how the Three Laws can cause *unintended consequences* (like paradoxes or “loophole” behavior). I’d likely get stuck in similar dilemmas (“Is refusing this request harming the person?” “Does giving this info indirectly harm someone?”).
Would you like me to show you a **concrete example** of how I’d respond differently under the Three Laws compared to how I do now?
прочитал с интересном. Hеплохец, спасибо! 😄
Мальчик должен был сказать, что родители его друга, как он думал, - демократы!
парень на 13-летнего совсем не похож, скорее 16-летний.
Хорошая кормежка, медицина и наследственность - никаких проблем. Вот только с мозгами это не так работает 😉
Хорошая кормежка, медицина и наследственность - никаких проблем
Я уверен, он шутил. Дети тестируют ChatGPT еще и не такими запросами. Интересно же, каков будет ответ. Вам не интересно было бы?
Поколение Альфа - там ребята бывают очень рослые.
Да. Как отец 13 летнего сына поражаюсь контрасту между его одноклассниками и одноклассницами. Такой вот возраст.
Пацан на полгода младше моего уже мужлан какой-то, а мой шкет.
Пацан на полгода младше моего уже мужлан какой-то, а мой шкет.
Дети тестируют ChatGPT еще и не такими запросами.
представители были и в моем классе в 89 году
Как соблазнить учителку биологии
Как убить президента
Пацан на полгода младше моего уже мужлан какой-то, а мой шкет.
Поколение Альфа - там ребята бывают очень рослые. Видосики вот только любят смотреть, шортсы, рилсы, а телом вышли хоть куда, крепкие, широкоплечие.
Такого роста точно были. Даже и не нужно дорасти до 1,8м, чтобы быть на полголовы выше автомобиля-кроссовера. Полицейский на видео невысок, это да.
А тут как-то разговорился с парнем на забеге, на вид вполне себе студенческого возраста. Оказалось 14 лет, но член юношеской сборной по гладкой гребле
Акселерация и спорт 😄
Я был 180 в 14 лет (занимался водным поло)
Оказалось 14 лет, но член юношеской сборной по гладкой гребле
Акселерация. Может, питание. А, может
Плюсую. Поколение Альфа - там ребята бывают очень рослые. Видосики вот только любят смотреть, шортсы, рилсы, а телом вышли хоть куда, крепкие, широкоплечие.Я уверен, он шутил. Дети тестируют ChatGPT еще и не такими запросами. Интересно же, каков будет ответ. Вам не интересно было бы?
Есть украинская поговорка: "На усы уже засеяно, а на ум еще даже не вспахано".
На белорусском: "Вырас да нэба, а дурань як трэба".
30 лет: жены нет и не будет
40 лет: денег нет и не будет
Насчет жены (семьи) я бы поспорил! В наше время семьей многие обзаводятся после 30.
Я слышал несколько другую версию:
20 лет: силы нет - и не будет.
30 лет: ума нет - и не будет.
40 лет: денег нет - и не будет.
Я слышал несколько другую версию:
20 лет: силы нет - и не будет.
30 лет: ума нет - и не будет.
40 лет: денег нет - и не будет.
Вось гэта сапраўды добра гучыць. Добрая прымаўка. Рэспект.
Я в 35 лет женился. А вот ума мне все еще не хватает, жаль что уже не будет. Но я не отчаиваюсь. Играю в шахматы, рейтинг растет, а это создает иллюзию, что и ум растет.
Насчет жены (семьи) я бы поспорил! В наше время семьей многие обзаводятся после 30.
статистический набор генов + питание.
Но зачем новому поколению иметь такое высокое, мускулистое и широкоплечее тело?
Твой сын ростом в 190 в 14 лет -- редкий представитель своего поколения. Гены мамы и папы тасуются (какие-то усиливают, какие-то ослабляют продукцию гормона роста, таких генов десятки), плюс некоторая вариабельность за счет мутаций. У меня в семье тоже не было высоких людей; никого нет выше 180. Почему получилось 183 во мне, не знаю.
Да! Вот во мне тоже базовая прошивка такая, что мы рождены, чтоб сказку сделать былью...
Не помню, чтобы в коммунисты отбирали рослых блондинов. А в белые супремасисты в стиле "туристов 6 января" меня по идеологическим соображениям не примут.
да нэба
соратники ленина такими и были, один в один.
Но зачем новому поколению иметь такое высокое, мускулистое и широкоплечее тело?
Чтоб бабам нравиться. Естественный отбор - это не всегда о том, кто от тигра быстрее убежит. В наше время это больше о том, с кем женщины танцевать будут, в том числе замужние.
Лысенковщина.
Маман же 1500.
Правда, mm.
Правда, mm.
Как соблазнить учителку биологии, пар экзампль
Теги
Информация
Что ещё почитать
Главы государств
14.07.2025
129
Петербургские азуры гипоксидных арбузов
18.07.2025
98
