Про искусственность интеллекта

Я очень долгое время держался и (кроме едких комментариев на смежные темы) — про ChatGPT не высказывался вовсе. Не потому, что я сознательно закрываю глаза на все новое, но чтобы накопилась критическая масса мыслей. Критическая масса пока не накопилась, но зато подоспел катализатор: Вастрик написал неожиданно глупую дилетантскую заметку «про это».

Неожиданно — потому что я все-таки не думал, что он прям Бирмановского масштаба дурачок, а дилетантскую — потому, что писать о любой проблеме от имени стороннего наблюдателя — занятие довольно неблагодарное. Любого может впечатлить «Черная серия» Гойи до судорог в мозжечке, но анализ работ гения лучше все-таки предоставить спецалистам, которые хотя бы не потеряют очевидные аналогии и не заблудятся в исторических параллелях. Образование мало, кому прям помогает стать умным, но оно хотя бы мешает быть круглым дураком.

Поскольку своих дельных мыслей я на полноценную заметку пока не наскреб (кроме очевидной: лучше готовить обед одному, чем с благожелательным золотарем в поварском колпаке), я решил написать открытый ответ на тот самый впечатливший меня текст.

Мысль №1. ChatGPT прямо точно заменит тех, кто не научится пользоваться ChatGPT.

В качестве аналогии (я сам обожаю аналогии, и даже злоупотребляю ими, но я все-таки даю себе сначала труд проверить оные на непротиворечивость) — приводится замена абака экселем среди бухгалтеров пару десятков лет назад.

Ладно, простим юноше выброшенные стопиццот звеньев этой цепи от деревянных счетов до экселя, не станем придираться к мелочам. Всего лишь давайте вместе подумаем: как долго просуществовал бы эксель в качестве подручного средства сведения воедино баланса, если бы при попытке посчитать сумму платежей, он бы иногда ошибался на пару порядков. А при попытке вызвать несуществующую функцию — выдумывал бы ее реализацию на ходу и втихомолочку применял.

Далее — «в некоторых областях на это пока будет пофиг (машинистов метро, например, ну никак не заденет)». Ну, э-э-э-э… В метро Барселоны уже есть самая длинная ветка то ли в Европе, то ли в мире, обслуживаемая поездами без машинистов. Знаете, каких машинистов заменил тамошний автопилот? — Тех машинистов, которых мог заменить автопилот. Это прямая ветка, без изгибов и пересечений. На развязку в районе Бейкер стрит в андеграунде — автопилот не придет никогда.

И тут же, в качестве иллюстрации, автор приводит волшебный кусок кода, который удалось оптимизировать с помощью нейросети. Воспроизводить тут не буду; у меня одни глаза, и те наполовину вытекли, пока я пялился на это чудо в процессе чтения. Так вот, разработчиков, которые такой код написали, новый инструмент заменит, конечно. Просто написавший такой код разработчик — сродни тем самым горе-водителям, которых принято сравнивать с автопилотами. Он давно выполнил свой лимит по сбитым старушкам, и, конечно, автопилот собьет меньше. Но это сравнение гниловато само по себе: чувака, конечно, нужно отлучить от руля, но из этого никак не следует, что снижение количества погребенных под колесами на 50% — достойный результат.

Пример с названиями новых бессмысленных инициатив я опущу: профессиональным дизайнерам, наверное, что-то и понравится, но я не настолько лишен вкуса, чтобы это даже просто комментировать. «The Innovation Station», my ass. Phew.

Пример три: письма, которые выглядят «по-взрослому».

Лолшта? На дворе 2023 год, алё. И мы не юристы. Я выкрасил волосы фиолетовой краской перед докладом на конференции, специально, чтобы обращали внимание на доклад, а не на мой галстук-бабочку. Если требуется «выглядеть по-взрослому» — я бы менял что-то в тексте доклада, а не во внешнем облике.

Если же хотя бы раз за последний месяц не использовали помощь нейросети, чтобы решить какую-то задачу — скорее всего вы уже лежите в сторону той бабушки с деревянными счётами.

Нет, не использовал. Задачи, которые я решаю, до меня решены не были, нейросети неоткуда взять их решение, а создавать сама она не способна. Давайте я повторю: удел нейросетей — автоматизация дешевого механического труда. Изобретать оно не умеет, и сейчас — к созиданию — ни на микрон не ближе, чем триста лет назад.

Ну либо у вас просто охуенная работа без булщита, тогда я завидую :D

А, не, все-таки автор не безнадежен :D

Дык, может быть, имеет смысл научиться водить поезда метро так, чтобы при тебе само слово «нейросеть» стыдились употреблять в данном контексте? На своем примере ответственно заявляю: для этого не требуются сверхспособности и поцелованность в темечко. Можно даже стихи научиться писать довольно профессионально, на уровне Быкова-Полозковой, если захотеть и потратить год-полтора.

Мысль №2. Когда много играешь с нейросетями, начинаешь сам замечать контент, который ими сгенерирован.

Оп-па. Не знаю, что тут сказать. Я вот умею определять текст, написанный Набоковым, и холст, созданный Веласкесом. Как только вы начнете отличать ЧатЖОПТ от ТрескЖОПТ по стилю комментариев на форумах — поздравляю, первый шажок на этом пути сделан.

Мысль №3. Поисковики умрут, но не из-за замены на ChatGPT.

Все написанное под этим заголовком, разумеется, верно, с одной оговоркой: информация, созданная живыми людьми, может быть интересна только людям, у которых интеллект ниже медианы создателей. Я восхищаюсь «Алгеброй» Ван дер Вардена, лекциями Фейнмана, «Программированием на Эрланге» Армстронга… Пойду ли я за советом, как приготовить сациви — на форумы? Господи, нет, конечно. Маня из Оренбурга забудет про халапенью, а Гоги из Тифлиса вообще сам у плиты никогда в жизни не стоял.

Аккумулирование крупиц знания в энциклопедии путем коллективного добавления малого в большое единое целое — дело важное и полезное, и за годом смерти Бетховена я пойду в Вики. Сбор и перепроверку фактов — можно и нужно поручить бездушной машине, но рифму к слову «любовь» я уж как-нибудь подберу сам.

Так что на поисковики уже пофиг, мне скорее интересно какие другие закостеневшие сферы пошатает ChatGPT. Образование, например.

«Ничего не будет! Одно сплошное телевидение!»

Рефераты и сочинения ChatGPT убьет полностью.

Охохо. Ну, рефераты и сочинения того же уровня, что и код, который был приведен выше — наверное. Так их и преподаватели прошлого убивали, в меру дозволенного. Хороший реферат и хорошее сочинение — машина будет в состоянии написать уж точно не при нашей жизни. Но кому и кобыла — невеста, конечно.

Можно даже зайти еще дальше и сказать, что если что-то можно легко заменить на ChatGPT — значит оно уже давно устарело и ему пора на помойку.

А вот тут я — неожиданно — согласен. Просто сейчас на ChatGPT с легкостью не заменить буквально ничего.

Потому что есть три очень важные точки останова в процессе перехода с живого сотрудника на полупроводникового:

• от живого сотрудника можно добиться подтверждения, что задание понято, а потом попросить объяснить ход мысли при выполнении;

• живого сотрудника можно поощрить и наказать;

• живой сотрудник заинтересован в выполнении задачи, прямо или косвенно.

А основная проблема с сетью — в том, что у нее отсутствует экспертиза. Отказ от живых людей в пользу не способной к самообучению сети — гарантия за пару поколений полностью утерять экспертизу и среди людей тоже, что неминуемо приведет к превалированию быстрых и неверных решений, отказу от любых мало-мальски опасных приборов и полному торжеству луддизма.

И да, задача самообучения пока не решена, и как ее решать — непонятно. Если вам это не очевидно, спросите любого, кто хоть немного разбирается. Ле Кун иногда отвечает на письма даже.