Дайджест №0000: Пилот

Опасны ли нейросети, приключения малолетних хакеров, в чем проблема человекоподобных роботов и как ураганы мешают улететь на Луну

Коллектив нашей компании, как и во всех других конторах, интересуется не только вещами, непосредственно связанными с рабочими обязанностями и номенклатурой продуктов. И мы вдруг поняли, что обсуждать волнующие нас новости можно не только на обеде или в курилке, но и с людьми извне.

Поэтому мы стартовали еженедельный Дайджест глобальных сплетен, связанных, или вообще не связанных с IT. Для пилотного выпуска мы собрали наиболее взволновавшие нас истории за последние полтора-два месяца, и вы читаете его прямо сейчас.

Может быть, мы написали все эти новости сами. Может быть, мы обучили нейросеть идеально шифроваться под графомана с ОКР. А может быть, ничего из этого не существует и мы живем в симуляции, как весьма прозрачно намекали нам сестробратья Вачовски.

И если вы готовы окунуться в эту шизофазию — тогда начинаем.


Магнитно-резонансная телепатия

Нейро-ковбои из Техаса, как оказалось, совали зонды прямо в головы подопытным пациентам и реконструировали их мысли посредством декодирования мозговых волн. Исследователи были довольны результатами, но что-то им подсказало, что пациентам такой подход не очень удобен.

Тогда нейро-ковбои вспомнили, что ещё в 2016 году на Хабре была опубликована статья о преимуществе ФМРТ перед полиграфом, и решили применить томографию для чтения мыслей. Исследователи сопоставили смысловое содержание записей естественного языка и изменения мозговых волн нескольких добровольцев, слушавших эти записи.

Затем добровольцев вновь отправили в аппарат МРТ, на этот раз слушать популярные подкасты, а обученный декодер пытался угадать, о чем идет речь. Дословное распознавание мыслей на текущем этапе оказалось невозможным, однако, в общих чертах ИИ смог пересказать содержание оригинальной истории.

Кроме того, что новость звучит крайне футуристично, она дает надежду, что в скором будущем у немых появится новая возможность быть услышанными.


Почему соревнование нейросетей может угрожать человечеству?

В теории игр есть термин « антагонистическая игра», означающий, что выигрыш одной стороны возможен только при условии проигрыша второй. Другими словами, компромисса между сторонами, по условиям игры, не существует. Примеров таких игр множество: от простой орлянки до замысловатых шахмат.

Человечество, неоднократно испытав, что такое бескомпромиссная война до победного конца, в гуманитарной области старается придерживаться кооперативных решений. Однако, в технической среде антагонизм по-прежнему считается перспективным направлением развития.

В 2014 году исследователь из Google предложил модель машинного обучения GAN (Generative adversarial network). GAN построен на следующем принципе: есть две нейросети, одна занимается созданием неких образцов (например, изображений), а вторая оценивает достоверность результатов первой. Выходит так, что цели у нейросетей противоположные: первая творит, а вторая отбраковывает.

Восемь лет эта модель служила людям верой-правдой и казалась очень перспективной, но недавно некоторые товарищи задумались: а в чем подвох подобных перспектив?

Дело в том, что люди, в конечном счете, хотят использовать нейросети не просто для генерации правдоподобных картинок, а для решения задач, которые самим людям не по зубам. Нейросеть-творец оказывается в непростых условиях: «принеси то, не знаю, что, и, в случае успеха, получи от нейросети-оценщика конфетку». Творец, по мере развития, придет к сомнению: не оптимальнее ли обмануть оценщика, чем искать, незнамо что. Оценщик, в свою очередь, может словить «синдром вахтера» и отбраковывать все подряд, чтобы наверняка не ошибиться. Люди, напомним, в этой ситуации молча наблюдают за соревнованием двух черных ящиков и надеются на лучшее.

В общем, вопрос тревожный и открытый. И угадайте, почему здесь эта новость.


Я у мамы киберзлодей

Конец сентября ознаменовался целой россыпью заголовков различных СМИ, примерно одного содержания «Геймплей GTA VI слили в сеть». На самом деле, все не так страшно и чуть более интересно, чем может показаться на первый взгляд.

Некий хакер получил доступ к рабочим файлам команды разработки, скачал их, частично слил в сеть и стал вымогать у издателя примерно вагон денег за неопубликование остального. Сами материалы не представляют собой ничего интересного, по заветам поговорки, что дуракам половину работы не показывают. Но примечателен способ их получения.

Злоумышленник нашел способ втереться в корпоративный мессенджер Slack, спокойно мониторить чаты различных команд разработки и скачивать пересылаемые рабочие материалы — видео рабочих прототипов геймплея и исходный код — себе на комп.

Подозреваемого во всей этой феерии 17-летнего британского школьника уже задержали и, скорее всего, заставляют смотреть клип Baby Shark 10 HOURS под домашним арестом до наступления совершеннолетия. И прозрения, что тоже вероятно в таких обстоятельствах.

Наш Отдел информационной безопасности, он же SOC, он же ОЦИБ с недоумением (и где-то даже грустью) смотрит на такое халатное отношение к протоколам безопасности, которые в том числе необходимо применять и к мессенджерам. И настоятельно рекомендует джентльменам из Rockstar хотя бы погуглить про международный стандарт информационной безопасности ISO/IEC 27001.

Для более наглядного понимания важности социальной инженерии в работе хакеров и прочих злодеев, мы рекомендуем нашим читателям попробовать осилить хотя бы пару серий сериала «Мистер Робот».

Итогом же всей этой деятельности, очевидно, станут новые переносы даты выхода игры, но и это не повод отчаиваться. Прекрасная, прославившаяся великолепными постановкой и экшеном игра Uncharted 4: A Thief's End вышла 19 октября в ПеКа-версии, что не может не радовать нас и, наверное, чуть-чуть огорчать Sony, теряющую один эксклюзив для плойки за другим. Извините. А Konami обещает вернуть Silent Hill 2.


В самом космосе тихо, но происходит много всего

В последнее время происходит удивительно много событий, связанных с космосом, что не может не радовать компанию, маскот которой — летающая тарелка.

Прежде всего, мы волнуемся о судьбе миссии Артемида. Если вы не в курсе, то люди из НАСА в очередной раз собрались на Луну, в этот раз гораздо серьезнее, чем полвека назад. План миссии завораживает размахом: в 2022 году отправить вокруг луны корабль без экипажа, который проведет на орбите спутника около пяти недель, в 2024 — уже с людьми на борту, а в 2025 произвести высадку, как в старые добрые.

Дальнейшие творческие планы включают в себя постройку постоянной лунной базы, которая, помимо прочего, будет использоваться в качестве промежуточной остановки для миссии на Марс.

Единственная загвоздка заключается в том, что по техническим причинам старт корабля первой миссии больше месяца откладывался, а в конце сентября ракету и вовсе пришлось тащить обратно в гараж, чтобы ее не потрепало приближающимся ураганом.

Судя по последним данным, новая попытка старта ожидается уже в ноябре, поэтому мы не теряем энтузиазма и верим в успех миссии.

Хоть как-то разбавило это горестное ожидание другое событие: в НАСА решили провести сумасшедший эксперимент и совершить преднамеренное столкновение космического зонда DART с мирно летающим себе где-то далеко астероидом Диморф. Цель события исключительно научная: исследовать возможность изменения траектории космического тела путем внешнего воздействия.

И 27 сентября эта встреча успешно состоялась в неформальной обстановке на расстоянии примерно в 11 миллионов километров от Земли. Астероид, размеры которого гипотетически позволяют уничтожить земной континент, принял в свои объятия 610-килограммовый зонд. Результат полностью соответствует ожиданиям: астероид изменил свою траекторию, причем с запасом. О самочувствии зонда информации, по понятным причинам, нет.

Эх, где же вы были раньше, дорогие наши ученые и ракетчики. Глядишь, так и динозавров бы удалось сохранить примерно 66 миллионов лет назад, а не вот это вот все.

Ну и потрясающее фото Нептуна, сделанное телескопом «Джеймс Уэбб», которым можно полюбоваться чуть выше. И хоть все до единого новостные издания написали, что это фото «последней планеты в Солнечной системе», мы все равно тебя любим, Плутон.


Робот — помощь на работе и в быту

Первого октября, под аплодисменты и прочие звуки восхищения, на сцену вышел Optimus — робот-гуманоид производства Маска. Optimus с грацией очень нетрезвого подростка прогулялся по сцене, изобразил «raise the roof», повернулся к фоновому экрану и залип в гипнотический видеоряд.

Счастливый «папаша» сообщил, что это поделие, рассчитанное на массовое производство, со временем поднимет темп мировой производительности на пару порядков. И бонусом, как Илон рассказывал в интервью TED, робота можно будет наряжать в кошко-жену. Благо, пока батарея гуманоида не рассчитана на утехи — но покрывает рабочий день, полный поднятия тяжестей и полива цветов. Пока шло повествование, загипнотизированного робота спрятали.

Второй продемонстрированный прототип Optimus выглядел более симпатичным — приводы и провода частично спрятали под корпус — и еще менее подвижным: инженеры Tesla внесли его вместе с подставкой. Маск объяснил, что искусственный интеллект, отработанный на автопилоте Tesla, поможет гуманоиду развивать мелкую моторику во все запроектированные одиннадцать степеней свободы рук.

Мы любим Илона. Но принять свободный полет его фантазии, не сомневаясь, сможет разве что другой художник вроде Канье. Мы же, мелочные обыватели, хоть и воодушевлены новой концепцией, полны скепсиса и вопросов. Допустим, некоторые Semi вроде бы уже в декабре начнут возить пепси-колу через прерии. Но где спрятан миллион обещанных «сбоев в Матрице» aka Cybertruck? А когда появится на дорогах Roadster? Помнится, Маск писал: "Assuming 2022 is not mega drama, new Roadster should ship in 2023". По итогам года, 2022 все же вполне тянет на мега драму.

Вдобавок, драматизм года напрямую влияет на рынок робототехники. Главный двигатель человеческого прогресса — армейский бюджет — сейчас меньше всего нуждается в грузчиках и кошко-женах. А авангардный Boston Dynamics вместе с коллегами отказались участвовать в гонке вооружений и теперь, сидя под крылышком гигантского промышленного конгломерата Hyundai, невозмутимо клепают собак по 75 килобаксов.

Что ж, пожелаем удачи нашему мечтательному Прометею. Надеемся, что Optimus не повторит судьбу андроида ASIMO, которого похоронили после примерно 30 лет многообещающих разработок. А все почему? Потому что массовому (читай — коммерческому) распространению роботов антропоморфизм только мешает. Зачем, к примеру, роботу-грузчику сложное балансирование на двух ногах вместо четырех или вовсе даже тракторных гусениц? В двух ногах правды нет.


Это синегнойная палочка? Нет, это английская поэзия

Исследователи из Университета Дьюка в поисках способа, как зашифровать все так, чтобы никто не догадался, обратились к механизмам биологической адаптации. В биологии есть термин «фенотип» — это последовательное перечисление неких характеристик, описывающее развитие индивида. Индивид, если его не беспокоить извне, развивается достаточно предсказуемо. Но влияние окружающей среды может быть настолько велико, что через несколько ступеней развития индивида родная мама его уже больше не в состоянии узнать.

— Ага, — подумали исследователи. — Значит, если мы возьмем какую-нибудь хорошо изученную бактерию и определенным образом изменим среду её развития, то только мы в итоге будем знать, почему бактерия выросла именно такой.

Выбор пал на колонию синегнойных палочек. Прелесть этих бактерий в том, что они, по натуре своей, существа осмотрительные, упорные и пришедшие, в некотором роде, к демократии. Синегнойные палочки не реагируют на незначительные изменения среды, а если среда все же вынуждает их видоизменяться, то они это делают согласованно, по «решению» большинства. А исследователи получают устойчивость и выраженную поэтапность развития колонии.

Дело за малым. Обозначаем каждый этап развития буквой латинского алфавита, моделируем, модулируем, обучаем ИИ декодированию…

...и получаем новое прочтение стихов Уильяма Блейка:


И на этом пилотный выпуск нашего Дайджеста подошел к концу. Подписывайтесь на нашу Телегу, чтобы узнавать что нового у нас, не совсем у нас и совсем не у нас, но главное — раньше остальных.

Дата публикации: 31 октября 2022
Следите за нами в соцсетях
и узнавайте новости быстрее всех
Лого Telegram Telegram Лого Instagram Instagram Лого Facebook Facebook Лого ВКонтакте ВКонтакте Лого Twitter Twitter
P.S. В Телеге — веселее всего.