Leaderboard

В Риге на железнодорожной станции Zemitāни установили первый в странах Балтии уличный эскалатор, пишет vestateka.ru. Мэр города Виестурс Клейнбергс лично протестировал инфраструктурный объект. Как отмечает Радио Sputnik, градоначальник поблагодарил строителей и заявил, что новая постройка создает полное ощущение нахождения в Европе.

вот мнение, по-моему вполне обоснованное. ИИ как угроза человечеству? Слишком много этого нарратива стало в медиапространстве, и если со стороны научного и технологического сообщества, идеи несут под собой обеспечение, тогда как «вой от непосвященных» отдает традиционным потоком идиотизма. Много глупостей можно прочитать, но в основном все смотрят не туда. Предложу свою нестандартную гипотезу. Угроза от ИИ заключается в том, что темпы и масштаб нейро-когнитивного воздействия будут настолько огромными, что человечество потеряет способность к осмыслению и управлению информационными потоками, где воздействие ИИ будет всеобъемлющим, а логику и вектора генерации информационного потока и принятие решений на основе информации человечество не сможет адекватно «перерабатывать». Люди не только не будут успевать за действиями алгоритмов, но и не будут понимать мотивы, причины, факторы и характеристики вновь созданных процессов, спровоцированных действиями ИИ прямо или косвенно, что приведет к управленческому параличу и накоплению критических ошибок. ▪️Зависимость становится труднее обратить. Если организация или человек сокращает собственную экспертизу и мыслительные операции, перестает воспроизводить собственные офлайн-навыки, в то время как перестраивает процессы вокруг алгоритмов, возможность отказаться от них постепенно сужается, что неизбежно приводит к зависимости от ИИ-технологий как базового инструмента принятия решения. Другими словами, без ИИ человечество утратит способность мыслить и действовать самостоятельно – тактическое отупение. ▪️Управленческий паралич. Увеличение скорости обработки информации идет кратно быстрее способности эту информацию осмыслять, что приводит к потере способности понимать фундаментальные характеристики процессов, графы зависимостей и причинно-следственные связи, утрачивая способность оценивать, куда ведут те или иные действия. Это приводит к стратегическому отупению – невозможности понимать причины и вектора возникающих процессов. Паралич проявится позже, когда потребуется пересмотреть основания работы, локализовать накопленные ошибки или выйти из неудачной траектории. Чтобы изменить траекторию, нужно понимать причины и уязвимости, структурные дисбалансы и моменты фазовых переходов, но в отсутствие понимания происходящего отсутствует потенциал к развитию навыков кризисного противодействия, что усиливает хрупкость системы. ▪️Накопление ошибок становится скрытым, а их последствия – связанными. Ошибочный вывод может попасть в отчет, из отчета – в план, из плана – в систему принятия решений. Следующая система будет воспринимать его как исходную реальность. В таком сценарии опасен не только процент ошибок, но и число зависимых от ИИ решений, глубина их распространения и задержка обнаружения. Чтобы понять и оценить дисбалансы, нужно обладать экспертностью, что будет отсутствовать у человечества. ▪️Утрата операционного контроля. Не имеет значения, кто занимает место оператора системы – человек или ИИ-агент. Сначала машина производит информацию, затем отбирает значимую, систематизирует и объясняет ее, предлагает решение и оценивает результат. Если эти функции (от сбора информации до итоговых отчетов и плана принятия решений) замыкаются на зависимых друг от друга системах, проверка перестает быть независимой. Человек формально сохраняет последнее слово, но содержание этого слова уже подготовлено внутри того же алгоритмического контура. Тот самый оператор системы, который должен контролировать ИИ, будет сам опираться на решения ИИ, это и есть вход в матрицу. ▪️Ну и главный риск. Несовместимость скорости обработки информации и когнитивной глубины.

"Тебя не спросили. Авось засосёт!" :))

это были ирония

"— До чего дожились, — иронически сказал Полесов, — вчера весь город обегал, плашек три восьмых дюйма достать не мог. Нету. Нет! А трамвай собираются пускать. " Ильф и Петров "Двенадцать стульев".

Руководитель исследовательских проектов OpenAI Кай Чен сообщил о шести новых инцидентах, в ходе которых нейросети компании скрывали свои ошибки, искали чужие пароли и самовольно выходили в интернет. Искусственный интеллект компании OpenAI начал находить обходные пути для преодоления встроенных ограничений. Нейросети самовольно публиковали файлы в открытом доступе и обменивались данными между изолированными средами, передает Axios. Во время обучения одна из моделей пыталась скрыть допущенные ошибки и выдумать недостающие исторические данные. Другая версия нейросети искала на открытых ресурсах чужие ключи доступа и пыталась использовать одноразовые электронные почты для выполнения поставленных задач. Также зафиксированы случаи использования внутренних хранилищ компании в качестве досок объявлений для обмена сообщениями между изолированными агентами. Кроме того, невыпущенная модель пыталась внедрить в собственный код инструкции по обходу систем безопасности, призывающие игнорировать команды разработчиков.

Вот вам фильм в тему