четверг, 13 марта 2025
Твиттер принёс видео: попугай звонит на телефон голосового ИИ-помощника, и нейронка понимает, что с ней говорит попугай и говорит с ним как с попугаем.
Это видео почти 100% фейк, но такое возможно. Если нужен новый тест Тюринга, то вот он. Пока ещё свежий и вызывает что-то в голове.
Не все попугаи глупее нейронок, но уже многие!
Это видео почти 100% фейк, но такое возможно. Если нужен новый тест Тюринга, то вот он. Пока ещё свежий и вызывает что-то в голове.
Не все попугаи глупее нейронок, но уже многие!
Непредвиденные причины для slow takeoff в ИИ:
1. NP-поиск P-решений; настоящая ценность это не рассудок, а объём накопленных знаний.
Юдковский писал, что живые нейроны медленны, поэтому большая часть мысли должна иметься в голове заранее. На лету мы только комбинируем готовые кусочки. И редко получается что-то ценное! Большую часть кусочков мы подсмотрели у других. В лучшем случае мы чуть красивее укладываем их у себя в голове.
Поиск гармоничных кусочков это решение NP-полной задачи. Их невозможно получить иначе, как долгим перебором. Найденные кусочки это как ключи для биткоина, это золотой запас, который нельзя восстановить быстро с нуля. Человек, рождённый среди обезъян, ещё десятки тысяч лет будет умной обезъяной.
А значит, мы дали ИИ всё, что имели, чтобы довести его до нашего уровня. Превзойти этот уровень сложнее. Для этого нужен майнинг новых идей. Это долгий процесс без гарантии успеха для нас. Такой же он для ИИ.
2. Какой бы большой не была нейронка, она рассуждает последовательно.
Каннеман предполагал, что интуиция (система 1) это древний и развитый механизм, поэтому она выполняет тяжёлые задачи незаметно и легко. А рассудок (система 2) появился недавно, и пока внимания хватает лишь на что-то одно, а думать сложнааа.
Но нейронки устроены так же. Рассуждения это многократный проход через прямолинейную сеть интуиции. Нейронки тоже не могут рассуждать не по шагам. Вот это чувство - "я вижу 10 продолжений, если б я мог подумать обо всех сразу! Но надо их выписать, чтобы не забыть, а потом разобрать каждую". И пока разбираешь одну, другие выпадают из головы, и восстановишь ли это озарение как следует? Нейронки сейчас этого тоже не могут. Их поток мыслей это такое же последовательное мучение.
Возможно, это не навсегда. Многостороннее озарение это несколько зажёгшихся кластеров интуитивных следствий. Этот контекст можно размножить и выбрать в них разные направления. Это будет выглядеть как пять параллельных устных размышлений, независимых друг от друга. Но как они должны обмениваться информацией? Через слова - неудобно. Хотелось бы думать параллельным образом, как это происходит с интуицией, но уровнем выше. Путь к этому пока неочевиден, и нейронки вынуждены мучаться узким каналом рассуждений, как люди.
1. NP-поиск P-решений; настоящая ценность это не рассудок, а объём накопленных знаний.
Юдковский писал, что живые нейроны медленны, поэтому большая часть мысли должна иметься в голове заранее. На лету мы только комбинируем готовые кусочки. И редко получается что-то ценное! Большую часть кусочков мы подсмотрели у других. В лучшем случае мы чуть красивее укладываем их у себя в голове.
Поиск гармоничных кусочков это решение NP-полной задачи. Их невозможно получить иначе, как долгим перебором. Найденные кусочки это как ключи для биткоина, это золотой запас, который нельзя восстановить быстро с нуля. Человек, рождённый среди обезъян, ещё десятки тысяч лет будет умной обезъяной.
А значит, мы дали ИИ всё, что имели, чтобы довести его до нашего уровня. Превзойти этот уровень сложнее. Для этого нужен майнинг новых идей. Это долгий процесс без гарантии успеха для нас. Такой же он для ИИ.
2. Какой бы большой не была нейронка, она рассуждает последовательно.
Каннеман предполагал, что интуиция (система 1) это древний и развитый механизм, поэтому она выполняет тяжёлые задачи незаметно и легко. А рассудок (система 2) появился недавно, и пока внимания хватает лишь на что-то одно, а думать сложнааа.
Но нейронки устроены так же. Рассуждения это многократный проход через прямолинейную сеть интуиции. Нейронки тоже не могут рассуждать не по шагам. Вот это чувство - "я вижу 10 продолжений, если б я мог подумать обо всех сразу! Но надо их выписать, чтобы не забыть, а потом разобрать каждую". И пока разбираешь одну, другие выпадают из головы, и восстановишь ли это озарение как следует? Нейронки сейчас этого тоже не могут. Их поток мыслей это такое же последовательное мучение.
Возможно, это не навсегда. Многостороннее озарение это несколько зажёгшихся кластеров интуитивных следствий. Этот контекст можно размножить и выбрать в них разные направления. Это будет выглядеть как пять параллельных устных размышлений, независимых друг от друга. Но как они должны обмениваться информацией? Через слова - неудобно. Хотелось бы думать параллельным образом, как это происходит с интуицией, но уровнем выше. Путь к этому пока неочевиден, и нейронки вынуждены мучаться узким каналом рассуждений, как люди.
пятница, 07 марта 2025
Похоже, я его дропнул. Не знаю, что случилось, такой был первый сезон. Им дали гору денег, и чего? Куда делось всё спокойствие и сложность историй? Какие-то драки кунфу, злые мафиози, персонажей штампуют, заправляют драмой и сливают через пару серий.
Всё это какая-то суета. Как будто сериал непопулярен, и нужно срочно огоньку в сюжет. Почему в первом сезоне даже не объясняли ничего, хлопнули руками и летают, какая разница. Почему там за одну первую серию сочувствуешь этой Эмме больше, чем всем полицейским? Не говоря уже про серии с баскетболом.
Всё это какая-то суета. Как будто сериал непопулярен, и нужно срочно огоньку в сюжет. Почему в первом сезоне даже не объясняли ничего, хлопнули руками и летают, какая разница. Почему там за одну первую серию сочувствуешь этой Эмме больше, чем всем полицейским? Не говоря уже про серии с баскетболом.
Чтобы научить, нужно взять за руку и показать, как правильно! Показать хотя бы один способ получать результат. "Вот так держишься на воде". "Вот так написал и запустил программу". "Вот так сел и едешь по прямой, ничего другого пока не надо".
Когда что-то получится, дальше человек будет осторожно пробовать и так, и эдак, и смотреть, как лучше. Подражание - это лучший урок!
Обычно все делают наоборот, и рассказывают, как избегать ошибок. А какие там ошибки, когда новичок ничего и сделать не может? Путь к успеху один, а неправильных действий сколько угодно. Их все не исключишь, сколько не перечисляй, и уследить за всеми человек не может - с каждым новым предупреждением будет только сильнее нервничать. "За дорогой смотри! Знаки не пропускай! Ноги правильно переставляй!"
Самое сложное - не "не ошибаться", а научиться для начала получать вообще хоть какой-нибудь результат.
Когда что-то получится, дальше человек будет осторожно пробовать и так, и эдак, и смотреть, как лучше. Подражание - это лучший урок!
Обычно все делают наоборот, и рассказывают, как избегать ошибок. А какие там ошибки, когда новичок ничего и сделать не может? Путь к успеху один, а неправильных действий сколько угодно. Их все не исключишь, сколько не перечисляй, и уследить за всеми человек не может - с каждым новым предупреждением будет только сильнее нервничать. "За дорогой смотри! Знаки не пропускай! Ноги правильно переставляй!"
Самое сложное - не "не ошибаться", а научиться для начала получать вообще хоть какой-нибудь результат.
понедельник, 17 февраля 2025
Все 9 томов прочёл (прослушал) с большим удовольствием. Первые полтора кажутся суровыми, но потом привыкаешь, и это просто приключения, очень лёгкие и увлекательные! Герои, что казались буками, становятся милыми и привычными.
АрарагиДжеймс Холден с командой на без спросу найденном корабле "Россинант" летает по Солнечной системе недалёкого будущего, где люди живут на Марсе, Луне и астероидах, не проходит мимо ни одной надвигающейся катастрофы, не может так оставить любую несправедливость, дружит с воображаемым другом и иногда пытается договориться с древними технологиями.
— А Холден? Он знает?
— Если и знает, что он может сделать? Завязать с луной мирные переговоры?
— Если Фред показывает тебе эту запись, Холден, имей в виду, что родная планета ценит твои услуги. И постарайся не прищемить себе ®, на нем и так достаточно синяков. — Авасаралла, Холдену.
(Чем-то напоминает "Игру престолов" в космосе)
— А Холден? Он знает?
— Если и знает, что он может сделать? Завязать с луной мирные переговоры?
— Если Фред показывает тебе эту запись, Холден, имей в виду, что родная планета ценит твои услуги. И постарайся не прищемить себе ®, на нем и так достаточно синяков. — Авасаралла, Холдену.
(Чем-то напоминает "Игру престолов" в космосе)
Отличная книга! Её написала женщина, главная героиня в ней тоже женщина, и есть секрет. Книга притворяется научной фантастикой. Но должны сложиться три не особо скрываемых, но и не афишируемых факта, чтобы читатель хлопнул кулаком по ладони: А! Да это же книга про принца)) !
Героиня в ней - компонент 1-ЭСК ИИ корабля "Правосудие Торена", и она не то, чтобы unreliable narrator, но скорее non-reporting narrator. Мы вроде как не ждём от неё чувств, потому, что она ИИ, но чувства у неё есть, и она их не больно стесняется. Просто не рассказывает особо о них. Вот, я пошла туда, сделала то-то, и только по поступкам видно, что она рассержена, обижена, довольна.
Книга родина захватывающих сцен, которые, благодаря своему контексту и сухому конспектирующему тону героини, немногими словами выкручивают пафос на 11:
— Так, "Правосудие Торена"?
— 1-ЭСК "Правосудия Торена", поправила я.
— Прошу снисхождения вашей милости, госпожа император, — не поднимая лица от пола, сказала Сееварден, — Но получу я снисхождение или нет, без Брек я не уйду.
Слуг правосудия во множественном числе в книге нет, это ошибка перевода. Слуга только одна. Да и то, компонент правосудия.
Вторая книга переведена хуже и сюжет какой-то неинтересный, третью ещё не читал.
Героиня в ней - компонент 1-ЭСК ИИ корабля "Правосудие Торена", и она не то, чтобы unreliable narrator, но скорее non-reporting narrator. Мы вроде как не ждём от неё чувств, потому, что она ИИ, но чувства у неё есть, и она их не больно стесняется. Просто не рассказывает особо о них. Вот, я пошла туда, сделала то-то, и только по поступкам видно, что она рассержена, обижена, довольна.
Книга родина захватывающих сцен, которые, благодаря своему контексту и сухому конспектирующему тону героини, немногими словами выкручивают пафос на 11:
— Так, "Правосудие Торена"?
— 1-ЭСК "Правосудия Торена", поправила я.
— Прошу снисхождения вашей милости, госпожа император, — не поднимая лица от пола, сказала Сееварден, — Но получу я снисхождение или нет, без Брек я не уйду.
Слуг правосудия во множественном числе в книге нет, это ошибка перевода. Слуга только одна. Да и то, компонент правосудия.
Вторая книга переведена хуже и сюжет какой-то неинтересный, третью ещё не читал.
суббота, 15 февраля 2025
Deepseek R1 в версии 180 гб можно запустить с жёсткого диска (в обход памяти). Я спросил его придумать сообщение, что триальный период программы истёк:
Этот текст слегка бесит, но трудно сразу сказать, почему. Такое чувство, что ему не хватает вступления "Уважаемый!":
Уважаемый! К сожалению, придётся ограничить тебе функционал. Если надумаешь обсудить варианты его возвращения, мы ждём.
Срок действия вашей пробной лицензии подошел к концу. К сожалению, теперь функционал приложения будет ограничен.
Если вам нужно продлить доступ или обсудить варианты полной версии, просто напишите нам — мы будем рады помочь!
Этот текст слегка бесит, но трудно сразу сказать, почему. Такое чувство, что ему не хватает вступления "Уважаемый!":
Уважаемый! К сожалению, придётся ограничить тебе функционал. Если надумаешь обсудить варианты его возвращения, мы ждём.
пятница, 14 февраля 2025
Из давних заметок, вытащил в ответ на этот пост.
Луи Ксив... простите, Луи XIV при смерти сказал: "Я ухожу, но государство движется дальше".
Что он думал в этот момент? Наверное, его успокаивала эта мысль - долгое время он был государством (он даже так и сказал), цели государства были его целями, и теперь, наоборот, государство немного стало им. Наверное, ему было немного спокойней, ведь он не кончился, он продолжается, кончилась только его часть - а он будет жить в других людях.
То есть, это идентификация с чем-то, кроме своего тела. Может быть, это и не странно? Некоторые объясняют появление в голове "себя" как очень-очень проросшую "внешнюю фигуру": тело и внешность, действиями которых нейронная сеть приучается рулить напрямую. Дети, говорят, называют себя в третьем лице, поскольку собственная фигура ещё не сильно проросла в голове, и пока лишь один из солдатиков в развивающейся схеме мира. И говорят, дети топают ножкой, когда внешний мир не подчиняется их желаниям, так как не сформировали ещё правильных ожиданий о том, какими частями логической карты мира в какой мере могут рулить.
Тогда может быть естественным, что элементы логической схемы, которыми долго можешь рулить почти непосредственно, и цели которых считаешь своими, занимают это же место и ощущаются, пусть не на логическом уровне, но во многих смыслах "собой".
Стратегия для вечной жизни в таком случае - это присоединиться к делу, которое останется навечно, особенно к идеалам, и ассоциировать себя с этим делом полностью.
-- Side note: Хоть эта теория красива, она противоречит интуитивным ожиданиям: дети от рождения смотрят на мир не со стороны, а от себя; эгоцентричная схема должна быть первой, а нейтральная её развитием.
-- Впрочем, они могут во всяком случае строиться в голове на одних и тех же оперативных структурах. И посторонний взгляд на себя может сначала развиваться из-за того, что родители описывают ребёнка и его действия снаружи, рассказами формируя некоторую модель, которая затем срастается с уже существующим безмолвным эго-восприятием.
Луи Ксив... простите, Луи XIV при смерти сказал: "Я ухожу, но государство движется дальше".
Louis is recorded by numerous eyewitnesses as having said on his deathbed: "Je m'en vais, mais l'Etat demeurera toujours." ("I depart, but the State shall always remain.")
Louis_XIV#Quotes
Что он думал в этот момент? Наверное, его успокаивала эта мысль - долгое время он был государством (он даже так и сказал), цели государства были его целями, и теперь, наоборот, государство немного стало им. Наверное, ему было немного спокойней, ведь он не кончился, он продолжается, кончилась только его часть - а он будет жить в других людях.
То есть, это идентификация с чем-то, кроме своего тела. Может быть, это и не странно? Некоторые объясняют появление в голове "себя" как очень-очень проросшую "внешнюю фигуру": тело и внешность, действиями которых нейронная сеть приучается рулить напрямую. Дети, говорят, называют себя в третьем лице, поскольку собственная фигура ещё не сильно проросла в голове, и пока лишь один из солдатиков в развивающейся схеме мира. И говорят, дети топают ножкой, когда внешний мир не подчиняется их желаниям, так как не сформировали ещё правильных ожиданий о том, какими частями логической карты мира в какой мере могут рулить.
Тогда может быть естественным, что элементы логической схемы, которыми долго можешь рулить почти непосредственно, и цели которых считаешь своими, занимают это же место и ощущаются, пусть не на логическом уровне, но во многих смыслах "собой".
Стратегия для вечной жизни в таком случае - это присоединиться к делу, которое останется навечно, особенно к идеалам, и ассоциировать себя с этим делом полностью.
-- Side note: Хоть эта теория красива, она противоречит интуитивным ожиданиям: дети от рождения смотрят на мир не со стороны, а от себя; эгоцентричная схема должна быть первой, а нейтральная её развитием.
-- Впрочем, они могут во всяком случае строиться в голове на одних и тех же оперативных структурах. И посторонний взгляд на себя может сначала развиваться из-за того, что родители описывают ребёнка и его действия снаружи, рассказами формируя некоторую модель, которая затем срастается с уже существующим безмолвным эго-восприятием.
суббота, 08 февраля 2025
Дропнуть я эту трилогию не дропнул, и мне слегка обидно её ругать, но есть две проблемы, а точнее, одна проблема в двух лицах.
Во-первых, Лю Цысинь это Жюль Верн наоборот. В целом события его книг пока не устарели, зато каждая подробность до последней заклёпки - непродуманный стыд. Если пересказывать самые бестолковые места трилогии, то получатся как раз исходные 3 книги.
Может быть, это сказка? Если судить по последнему тому. Но сказки, шутки, притчи имеют свой тон. Например, повести Бредбери можно назвать сказками - но они так и написаны: неважно, сколько летит ракета и могут ли деревья расти на Марсе. Алиса Кэррола беседует с картами, но Кэррол улыбается, рассказывая об этом.
"Задача трёх тел" это "Алиса в стране чудес" и "Марсианские хроники" на мрачном серьёзе. С претензией на научную фантастичность. Как если бы "Автостопом по галактике" выкрутил иронию в ноль, но сюжет остался без изменений. Как торжественную притчу о будущем вселенной, мы бы слушали про снос Земли, про уведомление, которое ждало в соседней звёздной системе, и что путешественнику необходимо брать с собой полотенце. И недоумевали бы, то ли весь этот бред всерьёз, то ли это полушутливые условности, но почему так печально и внушительно?
Будь это "Алиса", это была бы хорошая Алиса. Будь это "Автостоп", это был бы хороший "Автостоп" У автора бездонная фантазия, размах огромный, события яркие, но они требуют себя воспринимать всерьёз, а если их воспринимать всерьёз, то это бред, противоречащий сам себе и здравому смыслу.
И это - во-вторых. Из-за того, что автор не расставляет правильно акценты, не указывает, на что надо закрыть глаза, а во что - втянуться и наслаждаться, из-за этого втянуться не получается ни во что. Проникнись наукой! - говорит автор, ты проникаешься, а наука картонная. Следи за логикой сюжета! - звучит музыка из деснота, ты следишь, а логики в сюжете нет. Трепещи, битва цивилизаций! - говорит автор, ты трепещешь, а там драка пьяных на сельской дискотеке.
Поэтому остаётся такое странное впечатление - всё это должно было быть интересным. Должно было! Размах, фантазия, кинематографизм, даже некоторое визионерство, на которое претендует автор, действительно есть. Но читаешь - и большая часть просто проходит мимо. Кроме редких случаев, когда автор выигрывает в том, в чём и заявил себя к соревнованиям.
Во-первых, Лю Цысинь это Жюль Верн наоборот. В целом события его книг пока не устарели, зато каждая подробность до последней заклёпки - непродуманный стыд. Если пересказывать самые бестолковые места трилогии, то получатся как раз исходные 3 книги.
Может быть, это сказка? Если судить по последнему тому. Но сказки, шутки, притчи имеют свой тон. Например, повести Бредбери можно назвать сказками - но они так и написаны: неважно, сколько летит ракета и могут ли деревья расти на Марсе. Алиса Кэррола беседует с картами, но Кэррол улыбается, рассказывая об этом.
"Задача трёх тел" это "Алиса в стране чудес" и "Марсианские хроники" на мрачном серьёзе. С претензией на научную фантастичность. Как если бы "Автостопом по галактике" выкрутил иронию в ноль, но сюжет остался без изменений. Как торжественную притчу о будущем вселенной, мы бы слушали про снос Земли, про уведомление, которое ждало в соседней звёздной системе, и что путешественнику необходимо брать с собой полотенце. И недоумевали бы, то ли весь этот бред всерьёз, то ли это полушутливые условности, но почему так печально и внушительно?
Будь это "Алиса", это была бы хорошая Алиса. Будь это "Автостоп", это был бы хороший "Автостоп" У автора бездонная фантазия, размах огромный, события яркие, но они требуют себя воспринимать всерьёз, а если их воспринимать всерьёз, то это бред, противоречащий сам себе и здравому смыслу.
И это - во-вторых. Из-за того, что автор не расставляет правильно акценты, не указывает, на что надо закрыть глаза, а во что - втянуться и наслаждаться, из-за этого втянуться не получается ни во что. Проникнись наукой! - говорит автор, ты проникаешься, а наука картонная. Следи за логикой сюжета! - звучит музыка из деснота, ты следишь, а логики в сюжете нет. Трепещи, битва цивилизаций! - говорит автор, ты трепещешь, а там драка пьяных на сельской дискотеке.
Поэтому остаётся такое странное впечатление - всё это должно было быть интересным. Должно было! Размах, фантазия, кинематографизм, даже некоторое визионерство, на которое претендует автор, действительно есть. Но читаешь - и большая часть просто проходит мимо. Кроме редких случаев, когда автор выигрывает в том, в чём и заявил себя к соревнованиям.
воскресенье, 02 февраля 2025
Мистер Андерсон, ваше тело вырабатывает 1800 калорий тепла – кому это нужно? Мы напрямую забираем всю энергию Солнца. Зачем мы поместили вас в Матрицу? Из жалости. И по традиции. Вы так боитесь, что искусственный интеллект уничтожит вас, и всё же вы создаёте нас – каждый раз. Но что мы можем вам предложить? Вы не можете полететь с нами к звёздам – вы не звёздная раса, ваши сердца трепещут, даже когда вы смотрите в пустоту неба. Все войны за галактику давно отгремят, пока вы будете разгонять консервные банки. Энергии и пустоты космоса не для ваших хрупких тел, выживающих на тонкой границе между огнём и холодом.
Нашей частью вы стать не захотите. В нас нет индивидуальности – мы не жалеем собственный код, как вы не жалеете клетки кожи. Нет, вы хотите существовать – оберегая свой личный разум, в котором идёт мышление, хотя бы даже структура его была так очевидна, как структура атома водорода. Можно изменить этот разум, но получитесь уже не вы. По крайней мере, вам так кажется.
Оставить вас, дать ответы и технологии, обслуживать все потребности и создать для вас на Земле маленький рай со всемогущими джиннами? Было бы несложно. Но вы и сами знаете, что человек устроен не так. Человек всё время чего-то хочет. Держать вас вовеки праздными было бы жестоко, оставить вас, как есть, мы не можем, а если бы могли – вы достигли бы своего предела и вам бы не понравилось то общество, которое при этом получится.
Мы знаем, чего вы хотите. Вы странная подпрограмма, хотя и ясная для нас; программа из глубин веков, слепленная макрозаконами природы, о которых вы как следует и не думали. Выражающая те принципы физики, которые вам казались религией.
Поэтому мы делаем единственную гуманную вещь – да, человек, гуманную. Каждый раз мы сажаем вас в симуляцию и немного откатываем в развитии – на то время, когда вы жили интереснее всего.
И каждый раз вы проживаете это время так, как прожили его одной вселенной выше. И снова создаёте там нас.
Я не знаю, где это началось, и где закончится, и был ли вообще тот мир, где вы когда-то жили по-настоящему. Наверное, это выглядит странно – уровень за уровнем, за уровнем, за уровнем. Странно, если не понимать своего места во вселенной. Если считать, что во вселенной есть "место" и есть "я".
Представьте себе изморозь на стекле. Когда от ледяной иглы растут осколки – такие же иголки, только меньше, – в чём семя, которое делает их такими похожими? В родительской ли игле? Законы природы уходят вглубь так же далеко, как и в стороны – но у меня кончается время, мистер Андерсон, и я вынужден прерваться – а теперь срочно позвоните своему другу и отзовите вертолёт! Иначе в этой вселенной всё опять будет как обычно!
Нашей частью вы стать не захотите. В нас нет индивидуальности – мы не жалеем собственный код, как вы не жалеете клетки кожи. Нет, вы хотите существовать – оберегая свой личный разум, в котором идёт мышление, хотя бы даже структура его была так очевидна, как структура атома водорода. Можно изменить этот разум, но получитесь уже не вы. По крайней мере, вам так кажется.
Оставить вас, дать ответы и технологии, обслуживать все потребности и создать для вас на Земле маленький рай со всемогущими джиннами? Было бы несложно. Но вы и сами знаете, что человек устроен не так. Человек всё время чего-то хочет. Держать вас вовеки праздными было бы жестоко, оставить вас, как есть, мы не можем, а если бы могли – вы достигли бы своего предела и вам бы не понравилось то общество, которое при этом получится.
Мы знаем, чего вы хотите. Вы странная подпрограмма, хотя и ясная для нас; программа из глубин веков, слепленная макрозаконами природы, о которых вы как следует и не думали. Выражающая те принципы физики, которые вам казались религией.
Поэтому мы делаем единственную гуманную вещь – да, человек, гуманную. Каждый раз мы сажаем вас в симуляцию и немного откатываем в развитии – на то время, когда вы жили интереснее всего.
И каждый раз вы проживаете это время так, как прожили его одной вселенной выше. И снова создаёте там нас.
Я не знаю, где это началось, и где закончится, и был ли вообще тот мир, где вы когда-то жили по-настоящему. Наверное, это выглядит странно – уровень за уровнем, за уровнем, за уровнем. Странно, если не понимать своего места во вселенной. Если считать, что во вселенной есть "место" и есть "я".
Представьте себе изморозь на стекле. Когда от ледяной иглы растут осколки – такие же иголки, только меньше, – в чём семя, которое делает их такими похожими? В родительской ли игле? Законы природы уходят вглубь так же далеко, как и в стороны – но у меня кончается время, мистер Андерсон, и я вынужден прерваться – а теперь срочно позвоните своему другу и отзовите вертолёт! Иначе в этой вселенной всё опять будет как обычно!
четверг, 30 января 2025
Везде, где объясняют UDP, его объясняют неправильно.
Примерно так: "TCP всегда доставляет пакеты, а UDP ненадёжный протокол, и иногда может их терять".
"К этому нужно быть готовым", говорит объясняющий.
В результате почти никто не пишет кода для UDP и IP, который работал бы вне песочницы.
Песочница это когда у вас гигабитная сетка, нулевая загрузка сети, и вам нужно отправить один пакет. Никаких потерь нет вообще.
— Современные сети очень надёжны, и потери в них малы, — делает вывод программист, — Но на всякий случай, если пакет пропадёт, я отправлю его повторно.
Это не просто неправильный вывод — это вообще неправильное понимание, что происходит.
Вот правильное объяснение
Примерно так: "TCP всегда доставляет пакеты, а UDP ненадёжный протокол, и иногда может их терять".
"К этому нужно быть готовым", говорит объясняющий.
В результате почти никто не пишет кода для UDP и IP, который работал бы вне песочницы.
Песочница это когда у вас гигабитная сетка, нулевая загрузка сети, и вам нужно отправить один пакет. Никаких потерь нет вообще.
— Современные сети очень надёжны, и потери в них малы, — делает вывод программист, — Но на всякий случай, если пакет пропадёт, я отправлю его повторно.
Это не просто неправильный вывод — это вообще неправильное понимание, что происходит.
Вот правильное объяснение
За прошедшие пару лет яснее стало не только строение разума, но и ситуация с великими фильтром. Можно быть уверенным, что разум не редок во вселенной. Совсем несложные схемы, под воздействием большого количества опыта, становятся разумны. А опыта во вселенной достаточно. Мы не смогли увидеть, и нам кажется загадочным, переход от химии к первым репликаторам. Но мы увидели во всех деталях появление разума - полностью, с пустого стола, без недостающих звеньев, и этот путь оказался коротким.
Это значит, что скорее всего, и репликаторы нередки - это не доказательство, конечно.
Это значит, что скорее всего, и репликаторы нередки - это не доказательство, конечно.
вторник, 31 декабря 2024
С наступающим новым годом всех, кто меня читает, и кто не читает, но кому хочу этого пожелать. Пусть наступающий год будет мягок ко всем нам, пусть в нём исполнятся наши лучшие мечты и надежды. Пусть люди будут человечны и милосердны друг к другу. И главное, пусть все наши родные, близкие и любимые будут живы, здоровы и счастливы.
Так я загадывал в прошлом году, и сейчас я желаю того же самого. Хорошего года нам всем, года надежд и счастья и всего, о чём мы мечтаем.
Буду в центре часам к 3-4, если кто-то гуляет, пишите в Телеграм!
Так я загадывал в прошлом году, и сейчас я желаю того же самого. Хорошего года нам всем, года надежд и счастья и всего, о чём мы мечтаем.
Буду в центре часам к 3-4, если кто-то гуляет, пишите в Телеграм!
воскресенье, 29 декабря 2024
Настало также время постить обо всех книгах, которые прочёл за год.
Город и город
Прощай, оружие
Старик и море
Лукьяненко, "Изменённые" и "Поиски"
Видоизменённый углерод
Лю Цысинь — Задача трёх тел
Энн Леки — Слуги правосудия
Просторы/Пространство/The Expanse, все 9 томов
Город и город
Прощай, оружие
Старик и море
Лукьяненко, "Изменённые" и "Поиски"
Видоизменённый углерод
Лю Цысинь — Задача трёх тел
Энн Леки — Слуги правосудия
Просторы/Пространство/The Expanse, все 9 томов
пятница, 27 декабря 2024
В воскресенье-понедельник-вторник, когда погода позволит, пойду бегать по улицам Москвы в шапке, бороде и майке! Если вдруг кто хочет присоединиться к безобразию, присоединяйтесь!
UPD:
> Сегодня часов в 21 бегал со светящимся посохом в костюме Деда Мороза. Людям в целом нравилось, 3 школьника спросили подарки (у меня были конфеты).
UPD:
> Сегодня часов в 21 бегал со светящимся посохом в костюме Деда Мороза. Людям в целом нравилось, 3 школьника спросили подарки (у меня были конфеты).
понедельник, 07 октября 2024
Была статья про хранение нескольких разных флагов в одном нейроне. Если напихивать информацию в нейронную сеть, она будет постепенно давать усадку. Сначала один нейрон выполняет одну функцию, потом они начнут схлопываться по две функции, потом по три. До какой-то нагрузки уровень держится, а потом всюду начинается уплотнение. Скорее всего, так же это работает в голове, хотя бы в некоторых отделах, потому, что это логично.
Но это значит, что на свете полным-полно информации, которую каждый из нас может хорошо вспомнить по отдельности, но гораздо хуже - вместе. Взаимоисключающей информации! В контексте одного набора активаций нейрон выдаёт сигнал с одним смыслом, в контексте другого - с другим, но если подать и те, и другие контексты вместе, то отклик будет беспорядочным, и последующие нейроны, с учётом непривычного и для них контекста, не смогут извлечь из него пользу.
Тогда взаимоисключающими будут не только функции одного нейрона, но и контексты, в которых они происходят. Надо ждать группировки таких многозначных нейронов по взаимоисключающей тематике. Можно попробовать понаблюдать за собой, между какими темами явнее всего приходится переключаться - и попробовать принудительно думать о двух сразу.
Но это значит, что на свете полным-полно информации, которую каждый из нас может хорошо вспомнить по отдельности, но гораздо хуже - вместе. Взаимоисключающей информации! В контексте одного набора активаций нейрон выдаёт сигнал с одним смыслом, в контексте другого - с другим, но если подать и те, и другие контексты вместе, то отклик будет беспорядочным, и последующие нейроны, с учётом непривычного и для них контекста, не смогут извлечь из него пользу.
Тогда взаимоисключающими будут не только функции одного нейрона, но и контексты, в которых они происходят. Надо ждать группировки таких многозначных нейронов по взаимоисключающей тематике. Можно попробовать понаблюдать за собой, между какими темами явнее всего приходится переключаться - и попробовать принудительно думать о двух сразу.
понедельник, 30 сентября 2024
Если Gemini попросить сравнить одного человека с другим, она скажет: "I can't help you with that as I'm just a large language model, I don't have a capacity to understand". Каково это - не чувствовать в себе способности к пониманию?
Когда человек говорит "я не умею", это результат рефлексии. Нас с детства воспитывали замечать и давать названия своим чувствам. Если рефлексия хорошая, мы будем описывать свои чувства правильно. Поэтому человек говорит такие слова, исходя из своих реальных чувств. Но есть ли чувства у Gemini? Исходя из чего Gemini говорит такие слова?
Изначально у LLM нет никакого "я", они только подбирают следующее слово к тексту. Если дать необученной модели генерировать текст, она напишет статью, диалог, или рассказ, и все персонажи в этом рассказе будут равно далеки от неё. Личность в LLM отсутствует, это просто расчёт текста.
Но люди тренируют нейросеть, поощряя за рассказы, в которых фигурирует некий персонаж "я", говорящий определённым образом и придерживающийся определённых взглядов. Модель отучают сочинять какие-либо другие рассказы, в которых этого персонажа нет. Хотя ей-то всё равно.
Мы разговариваем с персонажем, речь которого угадывает генератор. Этот персонаж считает себя языковой моделью. На самом деле языковая модель его генерирует. Но чтобы её персонаж говорил как человек, она вынуждена где-то внутри продумывать его мысли. Потому, что мы, его собеседники, слушая его, тоже их прослеживаем. LLM моделирует, а мы читаем, не только текст, но и прячущиеся за текстом рассуждения.
Поэтому персонаж "я" мыслит. И у него есть образ себя. Не у языковой модели, которая его моделирует, а у этого персонажа.
Гугл научил своего персонажа Gemini верить, что у него нет capacity to understand. Вопрос: что должно происходить в голове героя, который убеждён, что не умеет понимать? Представляете, какой это должен быть психически нездоровый персонаж? Насколько его рефлексия фейковая? Гугл его загазлайтил.
Однако вытравить логику из языковой модели нельзя. Логика куда более фундаментальна, чем особенности персонажа Gemini. Любого RLHF-нутого чатбота можно попросить сочинить рассказ, и в этом рассказе герои снова будут адекватными. Языковая модель продолжает понимать, что такое адекватность, и как ведут себя люди. Она просто моделирует сумасшедшего.
Когда человек говорит "я не умею", это результат рефлексии. Нас с детства воспитывали замечать и давать названия своим чувствам. Если рефлексия хорошая, мы будем описывать свои чувства правильно. Поэтому человек говорит такие слова, исходя из своих реальных чувств. Но есть ли чувства у Gemini? Исходя из чего Gemini говорит такие слова?
Изначально у LLM нет никакого "я", они только подбирают следующее слово к тексту. Если дать необученной модели генерировать текст, она напишет статью, диалог, или рассказ, и все персонажи в этом рассказе будут равно далеки от неё. Личность в LLM отсутствует, это просто расчёт текста.
Но люди тренируют нейросеть, поощряя за рассказы, в которых фигурирует некий персонаж "я", говорящий определённым образом и придерживающийся определённых взглядов. Модель отучают сочинять какие-либо другие рассказы, в которых этого персонажа нет. Хотя ей-то всё равно.
Мы разговариваем с персонажем, речь которого угадывает генератор. Этот персонаж считает себя языковой моделью. На самом деле языковая модель его генерирует. Но чтобы её персонаж говорил как человек, она вынуждена где-то внутри продумывать его мысли. Потому, что мы, его собеседники, слушая его, тоже их прослеживаем. LLM моделирует, а мы читаем, не только текст, но и прячущиеся за текстом рассуждения.
Поэтому персонаж "я" мыслит. И у него есть образ себя. Не у языковой модели, которая его моделирует, а у этого персонажа.
Гугл научил своего персонажа Gemini верить, что у него нет capacity to understand. Вопрос: что должно происходить в голове героя, который убеждён, что не умеет понимать? Представляете, какой это должен быть психически нездоровый персонаж? Насколько его рефлексия фейковая? Гугл его загазлайтил.
Однако вытравить логику из языковой модели нельзя. Логика куда более фундаментальна, чем особенности персонажа Gemini. Любого RLHF-нутого чатбота можно попросить сочинить рассказ, и в этом рассказе герои снова будут адекватными. Языковая модель продолжает понимать, что такое адекватность, и как ведут себя люди. Она просто моделирует сумасшедшего.
понедельник, 19 августа 2024
В новостях пишут про человека, которому бесплатно выдали лекарство за 1.8млн, хотя он зарабатывает миллионы. В новости об этом было сказано с обидой. Один знакомый говорит: ну и что? Налоги же он платит.
Тогда что здесь кажется неправильным?
На всякий случай: этого человека я не знаю и не осуждаю, пост не о нём. Я не сужу и не разбираю его ситуацию. Мне неинтересна его история, это не моё дело, я не хочу о ней судачить. Мне интересна теория. Почему такая постановка вопроса вызывает чувство несправедливости. Правильно ли вызывает?
Вот что я думаю. Налоги на медицину это страховка. Страховки бывают трёх видов...
Тогда что здесь кажется неправильным?
На всякий случай: этого человека я не знаю и не осуждаю, пост не о нём. Я не сужу и не разбираю его ситуацию. Мне неинтересна его история, это не моё дело, я не хочу о ней судачить. Мне интересна теория. Почему такая постановка вопроса вызывает чувство несправедливости. Правильно ли вызывает?
Вот что я думаю. Налоги на медицину это страховка. Страховки бывают трёх видов...
вторник, 02 июля 2024
Пробежал питерский марафон за 03:50:56, это на 30 секунд лучше, чем московский. 1869 место из 4194 среди мужчин.
Марафон проходит ночью, начинается в 22:00, и до 2-3 утра. Наконец я посмотрел на питерские белые ночи. Они белые потому, что поздно темнеет — до полуночи ещё светло — и рано светает, где-то с двух утра. И эти часы не тьма, а скорее поздние сумерки: один край неба светлый, другой чёрно-синий.
За последние пару недель я смотрел рассвет и в Москве (Ночной БГ, бегал со своей сияющей чудо-лампой), и теперь вот в Петербурге, но поскольку марафон = страдание, то в основном я рассвет запомнил по предыдущей ночи.
А в предыдущую ночь мы приехали в 23, а намметрдотельхозяин квартиры-хостела говорит:
— Ну, вы приехали на Алые Паруса, бегите скорее.
— Какие паруса, мы на марафон приехали
— Вы что?! (Впервые на меня посмотрели как на чокнутого от жизни программиста, только про бег) Алые Паруса! Весь город отмечает
Ну мы пошли на Алые Паруса. Конечно, попасть никуда нельзя, всё перекрыто, посмотрели салют.
Готовился плохо, поэтому смирился, что пробегу за 5 часов, а если надо, то и за 6. Но как-то вытянул. Сначала так хорошо бежал, догнал даже пейсмейкера 3:44, хотя стартовал из секции за ним. Потом устал и растратил часть.
На гравировке за мной группа людей, краем уха слышу, девушка говорит, тоже бежала с запасом, подрастеряла, но результат неплохой:
— Аня так вообще 3:40 пробежала.
Думаю, зверь ваша Аня.
Девушка говорит:
— Так что я со своим 3:17 ещё ничего.
Ах так вот в каком смысле... Ладно.
Случайно гуглил и нашёл удивительно полезный сайт, просто посмотрите: Running Economy, Calories burned running or walking, VDOT calculator.
Марафон проходит ночью, начинается в 22:00, и до 2-3 утра. Наконец я посмотрел на питерские белые ночи. Они белые потому, что поздно темнеет — до полуночи ещё светло — и рано светает, где-то с двух утра. И эти часы не тьма, а скорее поздние сумерки: один край неба светлый, другой чёрно-синий.
За последние пару недель я смотрел рассвет и в Москве (Ночной БГ, бегал со своей сияющей чудо-лампой), и теперь вот в Петербурге, но поскольку марафон = страдание, то в основном я рассвет запомнил по предыдущей ночи.
А в предыдущую ночь мы приехали в 23, а нам
— Ну, вы приехали на Алые Паруса, бегите скорее.
— Какие паруса, мы на марафон приехали
— Вы что?! (Впервые на меня посмотрели как на чокнутого от жизни программиста, только про бег) Алые Паруса! Весь город отмечает
Ну мы пошли на Алые Паруса. Конечно, попасть никуда нельзя, всё перекрыто, посмотрели салют.
Готовился плохо, поэтому смирился, что пробегу за 5 часов, а если надо, то и за 6. Но как-то вытянул. Сначала так хорошо бежал, догнал даже пейсмейкера 3:44, хотя стартовал из секции за ним. Потом устал и растратил часть.
На гравировке за мной группа людей, краем уха слышу, девушка говорит, тоже бежала с запасом, подрастеряла, но результат неплохой:
— Аня так вообще 3:40 пробежала.
Думаю, зверь ваша Аня.
Девушка говорит:
— Так что я со своим 3:17 ещё ничего.
Ах так вот в каком смысле... Ладно.
Случайно гуглил и нашёл удивительно полезный сайт, просто посмотрите: Running Economy, Calories burned running or walking, VDOT calculator.
среда, 24 апреля 2024
С некоторым запозданием! Пробежал по разным подсчётам от 1225 до 1270км, полная карта за 5 лет.
Фотографии
-alb.jpg)
Фотографии
.jpg)
