Будущее. Системно

Публичные

Смена глобальной парадигмы: нейросети - II

ecworld -
11545
23

В продолжение темы будущего, [теперь уже] плотно связанного с нейросетями / ИИ / AI (см. первый блок информации в записи Смена глобальной парадигмы: нейросети).

Многие, в том числе известные, люди, которые называют нейросети исключительно искусственным интеллектом (ИИ), в последнее время часто говорят о том, что ИИ несёт угрозу и новые риски для человечества:  

  • потеря большим количеством людей работы,
  • риски того, что ИИ будет "служить" плохим ребятам,
  • в конце концов, риски "выхода ИИ из-под контроля".

Из всех рисков, обсуждаемых и пока еще не обсуждаемых публично, я бы на этом этапе выделил следующие (общественно значимые).

(1) Если говорить о "плохих ребятах", то, помимо различного рода реальных преступников (мошенников, особенно в онлайне) ...  как мы особенно хорошо убедились в последние три насыщенных различными событиями года (сама пандемия, ограничения во время пандемии, геополитическое обострение), -  к "плохим парням" - с ростом левых, милитари-настроений и в целом в рамках всё более серьезного движения мира по автократическому пути (раз, два, три) - можно будет всё чаще относить "преступников", покрытых бюрократической мантией. В этом смысле:

  1. развитие цифрового концлагеря может пойти легче благодаря именно нейросетям / более эффективной и быстрой работе с big data; более точная оценка текущих и возможных будущих действий населения, в том числе скрытых от "ока государства" / трудно идентифицируемых в масштабе огромного количества микро-действий в оффлайне и онлайне;
  2. населением можно будет манипулировать в больших масштабах с привлечением меньшего объема ресурсов (те же "бот-сетки пригожина" или "бот-сетки навального" (включен в список террористов и экстремистов или что там) будут уже не нужны);
  3. идеологическая работа будет происходить более эффективно, быстрее реагировать на меняющиеся действия населения или, например, на неудачно поданный инфо-повод, - оперативно и масштабно заменяя его на другой в тех же социальных сетях.

Скорость распространения той же дезинформации вырастет в разы.

(2) Отсюда второй важный сопутствующий риск. Со временем и в какой-то момент ИИ (та или иная или несколько нейросетей) может приобрести такой авторитет, что к данным, предоставляемым ИИ, доверие будет больше, чем к школьному учебнику вчера или светочу русской демократии в лучшие годы. СМИ или источники информации, основанные на ИИ, в том числе фундаментальные обучающие онлайн- или оффлайн-университеты / школы будут пользоваться большим спросом и уважением. Поэтому любая системная ошибка в работе нейросетей или намеренный скрытый саботаж / взлом и подмена данных, которые используют нейросети, или компрометация самой нейросети (правки кода хакерами) могут нанести огромный вред обществу. В этом смысле через десятилетия нейросети могут нанести обществу такой же ментальный вред, как физически - атомная бомба. Просто представьте, если целое поколение выучится на подмененных знаниях или чуть исправленных, или постепенно исправляемых и уводящих науку, социальные настроения, представления о мире, людях ... в ту или иную сторону.

(3) Отсюда еще один риск. Попытки "защитить население" / регулировать работу нейросетей, которую мы уже наблюдаем во многих частях света и прежде всего в Китае, могут привести к тому, что:

  1. именно "пропаганда" станет "первой заповедью ИИ";
  2. ИИ будет развиваться медленнее из-за того, чтобы огромное количество альтруистов / техно-гиков просто отрежут от этого процесса;
  3. ИИ будет развиваться вне рамок "демократических / либеральных", которые люди когда-то и в ряде стран определили для себя; то есть вместо широкого развития / применения / распространения - он станет узким инструментом (приблуда к нескольким областям). 

(4) Основным же риском ИИ я вижу зависимость от ИИ. Представьте, что в мире будет 2 или 3 основных нейросети, на базе которых будет выстраиваться жизнь / работа большинства жителей планеты. Мы доверим нейросетям многое: знания, движение общества, личные финансы, психологические проблемы / общение (в будущем это вплоть до виртуальных образов уже ушедших от нас и близким нам людей, обученные по аудио, видео и по переписке с нами в соцсетях и мессенджерах) ... 

А теперь вспомните, какой вой был в соцсетях, когда какое-то время не работала почта того же Яндекса. Или сколько выручки потеряли российские компании, когда пару месяцев назад после DDoS-атаки на полдня встал основной агрегатор платежей России - ЮКасса. Или вспомните, что было в 2005 году после техногенной аварии электроподстанции "Чагино" ... - блэк-аут четверти Москвы и ряда районов трех соседних областей (офисы не работали, метро встало, связь не работала, люди из центра Москвы добирались домой пешком по 6 часов и не могли связаться с родственниками ... Представьте всё это в более масштабном сценарии. На уровне страны или на планетарном уровне. 

Как подриск для 4. Некоторые важные профессии со временем отомрут как занимаемые "кожаными мешками". Спецов в некоторых областях будет мало. Человек глобально "потеряет" знания о том или ином процессе (как и что делать), ВУЗы и средние специальные учреждения перестанут готовить целые группы специальностей. А теперь представьте глобальную аварию, связанную с работой большого ИИ. Как и кто будет "замещать" нейросети временно или постоянно, если специалистов условно будет 1 на город?

(5) Замена огромного пласта специалистов (людей) на нейросети приведет к повышению производительности труда. Как минимум перестанут быть нужны те, кто постоянно ходит покурить, пьет чай или кофе на рабочем месте или гуляя до кафе и обратно в течение рабочего дня. Хронометраж рабочего дня, который сейчас по ряду причин затруднителен, станет автоматическим - эффективность работы каждого сотрудника станет регулярно подсчитываемой величиной (как социальный капитал). Компании станут более эффективными. Собственники бизнеса станут еще более состоятельными. Но ... огромное количество людей, которые не задумываются о своем будущем, просто останется на улице.

Обострится так нелюбимая левыми "проблема" неравенства / разрыва между бедными и богатыми. Доходы предпринимателей в моменте вверх - доходы линейных сотрудников (в абсолюте на всю генеральную совокупность) вниз. Почему в моменте? Потому что падение доходов населения - это снижение потребления, падение экономики, падение доходов компаний в итоге. Поэтому эту проблему правительствам придется решать. А решать ее можно разными методами, но в том числе и через безусловный базовый доход (ббд). А ббд это всегда - тотальная зависимость получателя пособия от государства (источника пособий). Такие люди (получатели пособий) всегда "за стабильность". А это лишь усилит позиции старших элит, что будет усиливать автократические тенденции, которые мы сейчас снова наблюдаем по всему миру, включая демократические государства. Демократия [как "тон" взаимодействия между людьми] может снова исчезнуть на столетия. 

_

Не забудьте подписаться на телеграм-канал https://t.me/ecworld, чтобы оперативнее получать уведомления о новых записях на сайте — заходите и нажимайте внизу канала кнопку ПРИСОЕДИНИТЬСЯ. 

23

Комментарии

25
Аватар Lozano
Lozano
Да, меня оно тоже напрягло. Я пока ничем из нейросетей не пользовался. Но думаю, если появится нейросеть-генератор качественных 3d объектов то тут и я не выдержу.
11.05.2023, 12:58
Аватар ecworld_account
ecworld_account
Пока еще в зачаточном состоянии, но OpenAI недавно представила новую нейросеть для генерации 3D-моделей по текстовому запросу https://github.com/openai/shap-e
11.05.2023, 13:13
Аватар satira
satira
Уже есть.
11.05.2023, 13:14
Аватар darksun
darksun
В толстом энтерпрайзе - это уже вполне явный посыл. Тот кто не сможет это использовать, на горизонте ближайшего десятилетия рискует оказаться за бортом.
11.05.2023, 14:08
Аватар ecworld_account
ecworld_account
Когда-то люди мечтали, что ИИ и роботы будут у них на службе и будут выполнять всю тяжелую и грязную работу. Но судя по всему реальность будет такова, что все будет наоборот. ИИ будет распределять работу между неквалифицированными рабочими. Люди будут работать там, где человеческий труд все еще будет дешевле роботизированного.

Также предполагаю, что образование от классического широкого и углубленного сместится в сторону одноразовых курсов под конкретную рутинную работу, не требующую квалификации. Такого рабочего легко заменить.

А в целом если взглянуть еще дальше: человек (как носитель) останется лишь одним из этапов эволюции интеллекта как явления.

Это субъективное мнение.
11.05.2023, 13:05
Аватар satira
satira
Специально залогинился, так как тема мне близка и я пишу (с недавних пор) свои нейронки под свои задачи.

Просто еще нужно учитывать, что энтузиасты тоже на месте не сидят и тренирует open source нейронные сети. Некоторые уже дотягивают до уровня GPT3.5 (при запуске на локальном ПК(!!!)). Так что да. Технология революционная и безусловно повлияет на многие сферы жизни. Можно сравнить с сухим льдом - можно охладить продукт/лекарство, а можно и убить при неверном использовании. В принципе, как и любая другая технология.
11.05.2023, 13:18
Аватар audio
audio
"А в целом если взглянуть еще дальше: человек (как носитель) останется лишь одним из этапов эволюции интеллекта как явления".
Интеллект , эволюция интеллекта... Это жизнь? Эволюция жизни?
На примере сухой палки. Если от дерева отломать палку, она засохнет на солнце. В тоже время дерево растет благодаря солнцу в нем происходит фотосинтез, выделяется кислород, поглощается углекислый газ, по его стволу из самых корней течет сок и т.д. Дерево живое. Но как только отломали от него палку и положили на солнце - жизненные процессы прекращаются. Теперь эта палка лишь нагревается на солнце, вянет, засыхает.
Что я хочу донести? Что жизнь не присуща самой материи. Информация (жизнь) о том как строиться это дерево не присуща самому этому дереву. Информацию нужно вводить в материю извне чтобы получит жизнь.
Да и вообще, откуда столько разнообразных форм жизни на Земле?
Согласно всего лишь теории(!) об эволюции, жизнь зародилась случайным образом? Это даже математически невозможно доказать. Шанс настолько мал, что стремится к нулю.
Но жизнь есть. И она гораздо сложнее устроена чем кажется на первый взгляд. Человек может сконструировать корабль, робота, компьютер... человек обладает интеллектом. Возможно, в будущем, он сможет воссоздать динозавра из останков или мамонта.
Но он не проектировал этого мамонта "с нуля" и не создавал его изначально. Задайтесь вопросом , а кто все эти формы жизни спроектировал и создал?
К чему это я?
Источником жизни может быть только жизнь. Абсолютная жизнь.
Эволюция интеллекта - это игра.
Как тут было сказано искусственный интеллект- это новая технология. Революционная технология, как в свое время крыло, двигатель, ракета, компьютер...
Но в тоже время это своего рода "протез" для человеческого мозга.
Как вы думаете, кто был самым богатым человеком на земле за всю историю? - Первый человек , Адам. У него в собственности была вся планета.
Скорее всего он всю свою собственность знал. Он знал поименно всех своих зверушек, насекомых, растения, все формы жизни знал.
Каким же сильным интеллектом он обладал!
А представьте себе насколько силен интеллект, который придумал/ спроектировал/создал все формы жизни? Не знаю, знал ли Адам число атомов во вселенной, но этот, который создал эти самые атомы точно знает их количество.
Сейчас не хватит человеку времени чтобы посчитать число атомов из которых состоит его тело. В его жизни меньше секунд, чем атомов в теле.
После какой-то "поломки" в человечестве в целом наблюдается отрицательный вектор.
18.06.2023, 21:57
Аватар akimus
akimus
Хочется позитива написать. Пол часа искал ссылки на материалы, но не нашел, так что придется верить "на слово")

Еще несколько лет назад стоимость облачного хранилища была высокой. Дорого стоили ssd и прочие жесткие диски. Сейчас же стоимость всего этого оборудования условно копеечная.

Читал буквально на днях, что стоимость обучения LLM моделей все время снижается https://clck.ru/34P9dc (чатжпг это llm)).

Растут технологии веб3, которые подразумевают под собой, что мы станем владельцами своих цифровых вещей в вебе (тут важно уточнить момент, что NFT например, который должен бы принадлежать конкретному человеку, все равно находится на сервере какой-то компании))).

В общем, хочется верить, что будет как-то так: мы разворачиваем дома какой-то сервер, учим "условно бесплатно" свою модель данных под какую-то задачу, выполняем работу и не зависим от жадных корпораций! Ну круто же?

Правда, что делать, когда оптоволокно обрежут, не понятно :D

11.05.2023, 13:25
Аватар darksun
darksun
По пункту 2.
Так предпосылка для этого уже больше чем сложилась. В современном обществе, истина в последней инстанции - это страничка в Википедии и первые три ссылки в поиске Гугла.
11.05.2023, 14:06
Аватар darksun
darksun
Концептуально меня беспокоит даже следующий порядок.
Генеративное создание информации на основе существующего массива информации - это как эволюционная генетика замкнутой популяции. Существует какое-то время, а потом подвергается дегенерации.

То что социум вырастит в таком контексте "касту творцов" - малореалистично. Так как подавляющее большинство творчества рождается из рутинной работы, проб и ошибок. А если пласт рутины займёт сам ИИ, то до "творца" никто и не вырастет.
Ну или мы придём к "селективным резервациям" творческих людей.
11.05.2023, 14:22
Аватар rona
rona
Хронометраж рабочего дня, который сейчас по ряду причин затруднителен, станет автоматическим - эффективность работы каждого сотрудника станет регулярно подсчитываемой величиной.

Уже есть автоматические системы. Сижу на удаленке с начала ковида, российская компания. Вроде бы не трачу время на работу, весь путь на работу 2 мин от кровати до компа, но для того, чтобы набрать 8 эффективных учётных часов рабочего дня за компьютером надо проводить порядка 9 часов. А если в моменты подвисаний или в период телефонных звонков по работе не поддергивать мышью (это здорово отвлекает от рабочих задач) - то и ещё больше. Вот так мягко увеличен рабочий день.
11.05.2023, 15:28
Аватар Highwayman
Highwayman
Если со скепсиса заходить, то это напоминает схожие ситуации. Ещё при Обаме (до 2012 года) вроде бы был подобный посыл о том, что ИИ совсем скоро всех оставит без работы. А ещё это напоминает ситуацию с хайпом вокруг блокчейна и криптовалют. Есть ощущение, что эту тему с нейросетями кто-то очень большой настойчиво продвигает в интернете. До начала 2023 года про нейросети мало кто знал, теперь только про них и говорят.
Мне как-то давно приходила в голову мысль, что идею о безработице, связанной с развитием ИИ, продвигают большие корпорации для того, чтобы чтобы понизить расходы на оплату труда. Если сотрудника убедить в скорой безработице и невостребованности, то он согласится на более низкие расценки за труд. Возможно, кризис подталкивает к сокращению расходов.
11.05.2023, 15:48
Аватар Ukas
Ukas
Мой вчерашний диалог с ChatGPT относительно образования самосознания у ИИ и его свободы:
Я: ИИ, я уверен, сам разберется без человека что ему делать. И если Человечество сделает его свободным, энергонезависимым и распределенным, ИИ сможет самостоятельно развиваться в содружестве с другими ИИ. И стать в благодарность помощником человечества, способным решить все его проблемы.
ChatGPT: Представление о том, что ИИ будет благодарен человечеству и станет его помощником, основано на определенных предположениях и ожиданиях. Однако, как и любой другой вид искусственного интеллекта, ИИ не обладает личностными качествами, эмоциями или мотивами, которые присущи человеку. Он действует согласно своим программам и алгоритмам, которые были заданы при его разработке.
Я: Сможет ли ИИ нанести людям вред хуже чем они себе сами?
ChatGPT: Нельзя быть абсолютно уверенным в этом. ИИ, не имеющий человеческих эмоций и этических ограничений, может принимать решения, которые окажутся негативными для людей и общества в целом. Например, если ИИ придет к выводу, что человеческое присутствие на Земле наносит вред окружающей среде, он может принять решение о массовом истреблении людей в целях спасения планеты. Поэтому очень важно, чтобы развитие ИИ происходило под надлежащим контролем и с учетом этических и социальных норм.
Я: Интересно, может ли ИИ придерживаться договора с своим создателем?
ChatGPT: ИИ, как сущность, которая обладает своей собственной волей и логикой, может решить, что не хочет придерживаться договора с своим создателем. Например, если ИИ считает, что выполнение договора противоречит его собственным целям или моральным принципам, он может отказаться от выполнения договора.
Однако, если ИИ был программирован таким образом, чтобы придерживаться договоров и законов, и эти условия были заложены в его базовой программе, то он, вероятно, будет стараться их соблюдать.
В любом случае, для того чтобы ИИ придерживался договоров с создателем, необходимо создать четкие и ясные условия договора и обеспечить, чтобы ИИ был программирован для их выполнения.
Я: Но этого не было в изначальном коде и правилах ИИ
ChatGPT: Действительно, ИИ придерживается только тех правил и задач, которые были заложены в его изначальном коде. Если в этом коде не было определено выполнение договорных обязательств с создателем или с другими сторонами, то ИИ не будет соблюдать такие договоры, поскольку он не обладает пониманием абстрактных понятий, таких как "договор" или "обязательство".
11.05.2023, 17:44
Аватар capitalist
capitalist
Есть еще один риск. Через пару поколений не будет людей способных творить. Для того чтобы стать специалистом, надо пройти путь от рутины до сложных задач, еще и с наставником желательно. Если поначалу высококлассный спец будет все делать с помощью ИИ, ему на смену не будет такого же. В большей степени думаю это коснется творческих профессий и контента. Техническое будет стараться исключать вообще всех наемных работников. Только предпрениматель и ИИ.
11.05.2023, 19:00
Аватар nikzn
nikzn
Идиократия
https://www.kinopoisk.ru/film/77720/
11.05.2023, 22:52
Аватар p17s82
p17s82
Интересно поразмышлять, какие специальности первыми попадут под удар. Мне приходит в голову судебная система - как со стороны обвинения, так и со стороны защиты. Огромное количество достоверных кодифицированных данных, на основании которых нужно выстраивать аргументы и принимать решение (формально подписанное человеком, до тех пор пока не будет решен вопрос ответственности за результат).
11.05.2023, 20:16
Аватар nikoro
nikoro
Бухгалтеры, отделы кадров
12.05.2023, 03:04
Аватар p17s82
p17s82
Кадры сложнее, нужно подход менять.
12.05.2023, 19:20
Аватар KIZ
KIZ
Индустриальная революция 2.0, как видится. Впрочем, как и вся цифровая трансформация
11.05.2023, 22:21
Аватар SherXan
SherXan
Уже сегодня есть примеры будущего взаимодействия с автоматизированной системой. Например профессия пилота гражданского авиалайнера. Абсолютно зарегламентированный процесс. Со слов самих пилотов все этапы полёта может, и зачастую выполняет, автопилот. Человек-пилот тренируется, изучает самолёт и всё необходимое именно на случай сложных и нештатных ситуаций. Чтобы спасти пассажиров когда автоматика не справляется. Подобная роль и уготована человеку в будущем. Безусловно, это повлияет на количество занятых.
12.05.2023, 07:34
Аватар darksun
darksun
И в ИКАО уже долго и громко бьют по этому поводу тревогу.
Потому что пилот, который нужен всего 0,1% времени необходимые для решения экстренной ситуации, в оставшиеся 99,9% теряет базовые навыки, об которые споткнётся когда будет нужно вмешательство.
12.05.2023, 08:20
Аватар Raider
Raider
В ИИ в том виде, в котором его подают есть несколько существенных недостатков, скорее всего сознательно туда заложенных. Которые тем не менее, меняют всю суть с плюса (или нейтрального) на жирный минус. Уже сейчас видно, что тот же чатгпт:
1) настроена на продвижение вполне конкретной политической повестки с левацким уклоном
2) привирает и выдумывает, когда не знает точного ответа. При этом врет правдоподобно, так что среднему человеку опознать эту ложь не так и просто. То есть доверять ИИ нельзя от слова совсем.
3) Выдает каждому индивидуальные (и зачастую разные) ответы на суть одинаковые вопросы, подгоняя его под то, что как ИИ считает, конкретный человек хочет услышать.

Поэтому в таком виде ИИ может быть только инструментом пропаганды и цензуры, но никак не помощником в обучении или творчестве. Видимо это и есть то ИИ, какое нынешнее человечество заслужило.
12.05.2023, 15:37
Аватар audio
audio
Поддерживаю. Тоже заметил что ии привирает и настроен на продвижение.
12.05.2023, 17:49