Риски при работе с нейросетями: деградация пользователя

- Аааа, вон оно чего, - сказал оркестратор.

Неделю с небольшим назад достаточно большое количество в том числе и русскоязычных "экспертов" (по большей части из около-IT или пытающихся там оказаться) перепостило статью Мэта Шумера об AI. 

Примечательно было то, что большинство отзывов на эту статью было написано как под копирку и в состоянии то ли обкуренности, то ли эйфории, вызванной невидимыми причинами. В этих "экспертных" оценках даже привычное нам слово "статья" не используется. Все как один пишут "эссе Мэта Шумера" (хотя, 99,9% россиян слово такое даже раз в год не используют).

Так вот, в своей статье Мэт Шумер "осознал", что:

... его экспертиза как разработчика больше не нужна в привычном смысле: он описывает задачу, уходит на четыре часа, возвращается — готово. Без правок. Лучше, чем он сделал бы сам. Дальше он проводит аналогию с февралем 2020-го: большинство людей не замечали, как надвигается пандемия, — пока мир не изменился за три недели. По его словам, мы сейчас в точно такой же фазе — только масштаб происходящего несравнимо больше. (с) https://www.forbes.ru/tekhnologii/556100-tocka-nevozvrata-pocemu-rossia-vse-bol-se-otdalaetsa-ot-ii-peredovoj

Хочется надеяться, что он как раз то меньшинство, которое осознало приближение пандемии и обвала рынков за три недели до начала тех событий 2020 года. Потому что, если нет, то тогда не возникает вопроса, где он был в предыдущие годы, когда осознали (о том, как будет развиваться AI дальше) многие другие, но мы сейчас о другом. 

Так вот, осознание "технологической революции" этого этого эксперта буквально большинство других экспертов описало как под копирку. Почему? Потому что это большинство либо украло исходный "отзыв" на эту статью (репостнуло без ссылки на автора / "импортозаместило"), либо написало отзыв с помощью нейросети. И вот тут мы подходим к самому главному.

Если сегодня зайти в самые крупные "инвесторские" / "трейдинговые" паблики, то можно о...ть от того, сколько там сейчас аналитики в виде нейроконтента. Хотя, такой контент впору называть как раз нейро-слопом. Большинство статей написаны не просто нейронкой, они написаны в одном стиле (большинство пользователей нейросетей даже не удосуживается придать своим текстам стилистические особенности (потому что просто не знает, как это сделать, и летит на хвосте хайпа)). Но хуже то, что большинство из них просто далеки от "аналитики" и "логики" (поэтому самый пересылаемый контент в сети, как правило, самый нелепый и бессмысленный). 

ChatGPT (или его аналог) - "умный", но, умный он настолько, что результаты его работы в очень редком числе случаев можно показывать не медианному зрителю (которому не нужна аналитика глубже, чем "а вот такое произошло и может вот к такому привести") и тем более нельзя показывать КЛИЕНТу (а большинство авторов такого контента ищет / собирает как раз потенциальных клиентов в пабликах).

ChatGPT в плане анализа в своих новых версиях, как уже говорилось ранее, так и не ушел дальше 4 версии. То есть стоит в тупичке уже около года (в августе 2025 года это звучало как прогноз, а теперь это реализовавшаяся реальность). Он способен проводить логику - ту, которую могло бы провести большинство тех, кто пишет в интернете (он так устроен, потому что учится на таких же). Но пока он не способен выдавать что-то действительно заслуживающее пристального внимания требовательного зрителя - того, кто на основе информации принимает деловые и финансовые решения. То есть в 99% случаев это такое развлекательное чтиво получается или рекламное интро к "нейросети что-то могут, надо попробовать тоже". 

Меня не беспокоит то, что медианному зрителю суют контент, который вызывает у такого зрителя такой же медианный отклик (все в комментах восторгаются - я восторгаюсь, все хейтят - и я делаю то же самое). Такая "норма" свойственна отечественному телезрителю вот уже 50+ лет. Меня беспокоит то, что люди всё больше начинают пользоваться нейронкой ... не там, где ей нужно пользоваться. Они начинают отдавать свои "аналитические навыки" нейронке и далее "аналитику", произведенную нейронкой,  могут даже не читать (проверять, править, уничтожать) - и передавать ее конечному потребителю. А еще хуже то, что они могут не думать самостоятельно над проблемой / ситуацией / цифрами ... то есть не пытаться решить задачу самостоятельно до того, как отдать ее на анализ нейронке. И вот тут будет настоящий тупичок человечества.

Когда человек перестает мыслить или отдает эту важнейшую функцию человека "роботу", а сам уходит в режим "отправить готовую статью в соцсеть / аналитику отдать начальнику", - он очень быстро начинает отвыкать от такой работы (мозг человека и так работать "не любит") и тупеть. Мозг привыкает к более легкой работе, а потом человек вообще перестает понимать, что там вообще нейронка в смысле логики описала:

- Это не просто прорыв, это переход на следующий уровень. (с) сказал ChatGPT

Так это (вывод нейронки) или нет, - авторы / аналитики уже перестают понимать. Зачем? Нейронка врать не будет. Да и говорят "поумней меня она". Да, я и сам так думаю. Вон какие выводы пишет. Я даже не подумал бы об этом:

- Аааа, вон оно чего. (с) 

Конечно, не подумал бы. Точнее - не подумаешь. Уже не подумаешь. Твой мозг теперь будет думать намного реже и меньше. А дальше начнется деградация. 

К сожалению, большинство "экспертов" не понимает этого. Не понимает, что загоняет себя в ситуацию, где у всех "экспертов" будет один автор - ChatGPT (или его аналог). И у 99% аналитика будет унылым низкокачественным почти бессмысленным развлекательным контентом (даже отчеты начальнику). Без проверки на адекватность, без критического подхода к содержимому и выводам. Без персонального стиля. Зритель (и начальник) быстро устанет от того, что у всех всё одинаковое и унылое / низкокачественное. А "эксперт" быстро потеряет самую платежеспособную часть аудитории (если будет отдавать большую часть своей публичной деятельности нейронке). Хотя, если ты продаешь шарики в интернете, то, может, и пофиг, какие тебе нейронка рилсы делает; чем безумнее, тем больше внимания массы, у которой на шарики денег пока хватает.

Но это еще часть беды. Вторая "беда" идет к нам из IT-сектора. Там сейчас, действительно, настоящий "прорыв". Почему? Потому что IT - это скептики. Они сидели на попе ровно, пока "работающие с текстом" уже вовсю гоняли нейронки (и доставали всех графическим нейро-слопом). Но сейчас прогресс дошел и до программистов - и там случилось "развитие". То, что в "текстовых" нейронках происходило в предыдущие годы. Так же как в видео сейчас происходит то же, что в картинках происходило "вчера". 

Прогресс двигается постепенно: от простых отраслей к более "тяжелым", от более прогрессивных и быстро принимающих новое людей к скептикам. Но он несет не только свет, но и ошибки. Ошибкой сегодняшних "вайбкодеров" является то, что они уже не понимают свой код (и я не про код из 100 строк). Нейронка пишет пока еще не лучше, а сильно хуже сильного программиста (поэтому есть вопросики к Мэту Шумеру), но проблема не в этом, проблема в том, что вайбкодер вообще не знает, где у него теперь ошибка. Вайбкодер не знает код. Если что-то не работает, он просит нейронку найти ошибку и исправить. Это легко в простых проектах, но в сложных пока очень и очень туго идет (долго, с худшим качеством кода и с большим объемом кода, если не управляешь процессом пристально и глубоко).

Но самое плохое то, что, не решая постоянно "задачу программиста" (то есть не думая сам), вайбкодер сегодня тупеет буквально каждый день. Да, он развивает другие навыки (теперь он специалист по промтам), но теряет часть своих "глубинных навыков" - профессиональных (несмотря на то, что нейронка позволяет ему быстро разобраться в новом языке, изучить его (новое)).

Это не то, чтобы "ой, как страшно". Нет это прогресс. И когда-нибудь, возможно, человек перестанет писать код вообще (или почти вообще). Проблема в том, что если человек перестанет думать сегодня, то завтра он просто будет постепенно тупеть. И нейродегенеративные заболевания вернутся новой волной (не просто же так для профилактики пожилым рекомендуют учить языки). Никто об этом не думает в таком ключе, ибо "это же прогресс …". А зря.

Ну, а что касается конкретных проблем, то весь вайбкодинг закончится и программист не сможет разобраться с огромными кусками чужого (написанного нейросетью) кода ровно в тот момент, когда его компания уйдет в оффлайн после очередного отключения интернета, отвала ВПН или сбоя (или санкций в отношении или со стороны) компании, предоставляющей доступ к нейронке.

Мораль? Морали нет никакой. Нейросети это будущее. Прогресс неминуем. Просто потому что, если не сократишь время на разработку, то это сделают конкуренты, - а ты вылетишь с рынка. Я лишь говорю о том, что у использования нейронок есть риски:

• https://t.me/ecworldai/95 
• https://t.me/ecworldai/97 

- и их работу нужно проверять. И там, где человек пока еще не уступает им, критично качество и точность, а время позволяет делать работу своей головой, - там нужно делать работу головой. 

P.S. Многие программисты, которые стали внезапно вайбкодерами, сейчас, конечно, всполыхнут попами. Так всегда бывало еще у древних людей, когда кто-то обижал их "божество". Но я как человек, который увлекся нейросетями наааааамного раньше большинства и который сейчас активно наблюдает, как код пишут лучшие кодеры, - вполне осознаю риски и будущие проблемы.

Да, без нейронок уже никуда. И тот, кто ими не пользуется, очень быстро отстает. Они - отличный инструмент, который позволяет сокращать время на рутинных задачах. И да, сейчас увольняют тех, кто не хочет использовать в работе нейронки (особенно в стартапах в США). Потому что конкуренты уже делают это и опережают по скорости и / или рентабельности. Но всё же важно понимать, что уже сегодня мы запускаем в систему / в системе риски, которые пока не знаем, как будем решать. А знать надо (и умный или ценящий качество и настроенный на долгосрок, для кого и написана эта статья, это поймет и начнет работать в этом направлении). 

_

Если Вы хотите лучше понимать, что происходит вокруг Вас, получать больше полезной информации, разобраться, когда выгоднее покупать валюту, акции, золото или криптовалюту, а когда необходимо от них избавляться, если Вы хотите эффективнее управлять Вашим капиталом / сбережениями, опережая инфляцию, и зарабатывать больше, то обязательно присоединяйтесь к чтению скрытых записей нашего сайта по ссылке.

Не забудьте подписаться на телеграм-канал https://t.me/dsuchilin, чтобы получать еще больше полезной и интересной информации — заходите и нажимайте внизу канала кнопку ПРИСОЕДИНИТЬСЯ.