-1828593235 usDsuMBs _siteBoxShadow»>-1409621041 content-background»>-4182140271 JyMwzDZX»>-3155048395 PYOACEoE i5OnRx1G»>-3155048395 jsx-1624989180 awzHLsVz»>-3155048395 iDO64Mb0 WzjH1UAl»>-3155048395 Bg1V1QyZ»>Ещё-290341628 dropdown-content ncNtZgLY» data-qa=»lb-dropdown-content» style=»transform:translateX(0px)»>-826402392 LZR_XpgU» data-qa=»lb-menu-item»>Новости-826402392 LZR_XpgU» data-qa=»lb-menu-item»>Выживание-826402392 LZR_XpgU» data-qa=»lb-menu-item»>Криминал-826402392 LZR_XpgU» data-qa=»lb-menu-item»>Энциклопедия-826402392 LZR_XpgU» data-qa=»lb-menu-item»>Жизнь-2257340867 DfmS9S5X»>-720757498 xtINwle7″>Войти-552702402 wrapper»>-2823153489 fxnKy72N»>-1053593855 J6oTYWuX»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-1053593855 n2hVlOEH»>-1053593855 skeleton I9Dv_L_w»>-2407986978 wrapper»>-4154605396 topic-text-wrap»>-1593981954 wrapper»>-3876797188 HQSYbReY»>Технологии19:50, 05 апреля 20234 мин.aAОшибка человека. IT-эксперт рассказал, при каком сценарии россиян ждёт восстание машин -1593981954 wrapper onRenderedStateOnly»>-1903086579 lead»>ВЦИОМ опубликавал данные социсследования, согласно которому 30% россиян верят в возможность восстания машин в ближайшие 50 лет. 59% считают, что этого случиться не может. «Секрет фирмы» обратился к экспертам в вопросах IT и этики, чтобы выяснить, действительно ли есть вероятность бессмысленного и беспощадного бунта искусственного интеллекта (ИИ). И делается ли сейчас что-то, чтобы не допустить такого страшного сценария.-1169066200 qSkY7x3e»>-1169066200 MisRLmSo»>Обсудить-4012125533 vWXji53N POM4b3KC»>-4012125533 rambler-share gkkstkt5 uUbhHWu5″>-893961348 image»>Ошибка человека. IT-эксперт рассказал, при каком сценарии россиян ждёт восстание машин

ВЦИОМ опубликавал данные социсследования, согласно которому 30% россиян верят в возможность восстания машин в ближайшие 50 лет. 59% считают, что этого случиться не может. «Секрет фирмы» обратился к экспертам в вопросах IT и этики, чтобы выяснить, действительно ли есть вероятность бессмысленного и беспощадного бунта искусственного интеллекта (ИИ). И делается ли сейчас что-то, чтобы не допустить такого страшного сценария.

ОбсудитьОшибка человека. IT-эксперт рассказал, при каком сценарии россиян ждёт восстание машин

Фото: josefkubes/easyfotostock/Eastnews

В социсследовании говорится, что меньше всего опасаются восстания машин те, кто с ними работают, а также молодёжь.

Также оказалось, что в большинстве своём россияне положительно (35%) или нейтрально (40%) относятся к нейросетям. И только 20% считают такие технологии вредными.

Мнение айтишника

Глава Фонда развития цифровой экономики, бывший советник президента по вопросам развития интернета Герман Клименко для начала отметил, что удивительно мало для России людей, которые допускают возможность восстания машин. Хотя сейчас появляется много информации о том, что нейросети и ИИ могут оставить людей без работы.

«Самостоятельность принятия решений у машины за 50 лет появится. Безусловно, во многом машины будут принимать решения. Уже сейчас они принимают решения в зависимости от обстановки. Например, включает или выключает свет», — заявил он.

Но для начала полноценного восстания машин у них должен появиться разум. По словам Клименко, большинство специалистов, которые занимаются темой ИИ, уверены, что рано или поздно появится «большой ИИ». То есть это будет ИИ с разумом, который сможет сам думать.

Нынешние же версии ИИ занимаются узкими специализациями: они или рисуют, или создают тексты. «Большой ИИ» будет универсальным и сможет думать.

«Можно сказать, что 90% профессионалов верят в то, что будет восстание машин. В лоб их никто не спрашивал, но если мы допускаем, что ИИ действительно будет думать, то можно допустить, что будет восстание машин. "Думание" предполагает разное поведение, в том числе и непрогнозируемое», — отметил эксперт.

Но сам Клименко не верит в то, что ИИ сможет полноценно думать. То, что машина может выиграть в шахматы у чемпиона мира в этом спорте, никак не связано с процессом мышления. Точно также машина может быть физически сильнее человека, но всё равно останется машиной.

Эксперт весьма скептически оценивает усилия, которые сейчас прилагает человечество, чтобы обезопасить себя от потенциальных угроз со стороны машин.

«Наверное, чтобы успокоить общественность, сказать, что что-то делается», — предположил эксперт. Но сам он с трудом представляет, как можно контролировать ИИ. Можно запретить его применять в, например, атомной энергетике.

«Всегда программы будут писать люди, программисты будут ошибаться и всегда будет единственный вопрос: можно ли передать компетенции компьютеру, который может не справиться», — указал Клименко.

Он указал на то, что человек чаще ошибается, чем ИИ. В итоге человеческая ошибка может привести к тому, что мы назовём «восстанием машин». Такие ошибки выявить и исправить практически невозможно.

Мнение священника

Автор телеграм-канала «Православный футуролог», член комиссии Межсоборного присутствия по вопросам общественной жизни, культуры, науки и информации иерей Святослав Шевченко опасается угроз, связанных с ИИ.

«К 2073 году в России может быть достигнута точка технологической сингулярности, когда искусственный интеллект станет в несколько раз умнее человека. И этот процесс уже невозможно будет остановить. В результате жажды коммерческой выгоды, IT-гиганты, включенные в разработку ИИ, могут пойти на такие эксперименты и шаги, последствия которых будет невозможно предугадать», — считает священник.

По его мнению, нет гарантии, что генеративные нейросети однажды не сочтут человечество своим конкурентом или же вредной формой жизни. И этому может помешать только Бог или же глобальная катастрофа, которая изменит вектор развития человечества.

«Предупредить такое развитие событий может и человек, если начнёт что-то предпринимать прямо сейчас. Невольно вспоминаются три закона роботехники, впервые сформулированные Айзеком Азимовым в научной фантастике ещё в начале 40-х, которые запрещали вредить человеку», — считает отец Святослав.

Он указал на необходимость «вшивания» внутрь любой машины свода этических правил.

«Мир уже настолько цифровизированный, что для взятия человечества в плен уже не нужны никакие роботы. Это старые сценарии для боевиков конца 80-х начала 90-х. Достаточно по сети захватить СМИ, соцсети, банки, инфраструктурные объекты жизнеобеспечения, и можно начинать диктовать миру свои условия», — заявил отец Святослав.

Уже сейчас российские IT-компании задумываются об этих проблемах. Но по мнению отца Святослава, их основные рекомендации — не допускать ИИ к управлению стратегическими объектами, например, военными.

«Грубо говоря, оставить "красную кнопку" в аналоговом исполнении. Если мы сейчас не наденем поводок на нейросети, то в будущем они могут надеть его на нас», — резюмировал священник.

Источник