И вот вам видео вдогонок с относительно свежим случаем, когда цена ошибки оказалась ниже, чем пара-тройка сотен человеческих жизней.
dustories
Сообщений: 2 596 с 2022 года
Лента канала хранится отдельно от общего реестра и подгружается страницами, чтобы аналитик мог читать архив без тяжёлого общего поиска поверх сообщений.
Я не раз говорил, что Элайнмент — это старая проблема, не новая. Разницы между максимизатором скрепок и максимизатором прибыли нет: это буквально одно и то же. И если максимизатор скрепок пока на горизонте не виден, поскольку чистый разум, как оказалось, абсолютно неспособен создать агентность («я же говорил» moment), то вот для максимизаторов прибыли у нас все компоненты уже есть: ЛЛМ и компании. В этом эссе рассмотрим процесс их симбиотизации поглубже.
Следующая инструкция будет про то, как шизеть правильно
Вы тут не того!
Ты смотришь кино, но не видишь экран
Хорошо, что нейросеть знает, как освободить падшего ангела из его вековечного заточения.
Кого-то Панган не принимает, а меня ограбил.
Не буквально, конечно, но после Куала-Лумпура цены тут, конечно, кусаются. И, на удивление, вопрос про оплату карточкой вызывает у всех раздражение почему-то.
А ещё я живу в секте. Об этом на airbnb не предупреждали, конечно. Но архитектура у них в ретрит центре просто огонь.
Задержи дыхание
Курёхин одновременно и движется, и спит — релятивистская механика
Спин вращается, наоборот, неслыханно
Срывается фотон — совершена работа выхода
В ядре бардак, протоны все пропали
Молодые электроны покидают орбитали
Но по постулату бора, те хватаясь за карниз
Обречены терять энергию, и вновь срываться вниз
В одном шаге от свободы, жаль, как ни пытаться
В шаге от освободительной ионизации
Я формулы записываю мелом на стене
Когда-то наши дети, может, скажут ненависти — нет
А для ракеты все равны мы, ей неважен вид и род
Невыносимо тяжело дышать, тяжелый водород
Уже везде дрожит земля, а вокруг горит материя, узрите
И скажите: «да» дейтерию и тритию
song.link | via
Осторожно: поддельное море. Выглядит и ощущается как настоящее, но радости никакой.
По возможности, избегайте летать транзитом через Сингапур. Или бронируйте отель заранее. В два часа ночи решил не заморачиваться с выходом через таможню, внутренний отель в нашем терминале запросил 200 баксов за 6 часов (што), а скайтрейн в другие терминалы уже не работал.
Решил просто переночевать в снузинг зоне, но они все были дико переполнены. Поэтому пришлось сидеть на кресле, а затем спать на полу в коридоре. На удивление, я даже неплохо выспался.
Написал небольшую заметку про сегодняшнюю блокировку доступа к новым моделям антропиков.
Для многих это прозвучало просто как новость о технологических санкциях, но для меня это хрестоматийный пример более глубокой проблемы: почему кнопка «выкл.» в руках государства — это ещё не решение проблемы AI Alignment (согласования ИИ).
Согласованность системы и просто право дёрнуть стоп-кран — далеко не одно и то же. Мутноватый регулятор без понятной процедуры подотчётности — это не защита общества, а просто ещё один сильный игрок на поле, чьи действия тоже могут в корне расходиться с общественным благом.
Поразмышлял о том, где пролегает граница между реальной согласованностью, безопасностью и непрозрачной «властью рубильника», и почему без ответов на неудобные вопросы мы не решим проблему элайнмента.
Читать заметку
Кароч, пьём пиво с другом по Гугл миту. Говорим примерно про мои темы. Если вдруг нечем заняться и есть желание пообщаться с мясными людьми (и готовы к новому знакомству в том числе), то подключайтесь.
Pivo i Ilya
Пятница, 12 июн., 23:00 – суббота, 13 июн., 04:00
Контактная информация для встречи в Google Meet
Ссылка на видеовстречу: https://meet.google.com/gzj-tawn-zam
На время не смотрите, это utc+8, сидим уже сейчас.
Ну я
Слышали, что сон разума рождает чудовищ? Так что мы решили автоматизировать сон разума, чтобы вы могли получать чудовищ быстрее, и лучшего качества.
Теперь автономный разум может рождать чудовищ даже когда вы спите.
Тут в целом не только выделенная часть хороша. Весь абзац отличный.
What did they mean by this
Today I learned
Вроде, в нечисть мы уже давно не верим, но просьба «докажи, что ты человек» в наше время актуальна как никогда.
Продолжение разговора про мини-игры сознания. Если тяга — это не «я», то что за самозванец орёт «хочу», когда я в три ночи листаю ленту, которая мне даже не нравится — и почему его так легко принять за себя.