Непробиваемый мapaзм цифровизации. «Искусственный интеллект» совершает всё больше ошибок

Заметка без фамилии автора, но интересная. Автор начинает ее так: «Об опасности безудержной цифровизации умные люди говорят всё чаще. Но большинству кажется, что все эти предупреждения касаются далёкого будущего. Это суровая ошибка».

Прочитав эмоциональное выступление автора, с этим трудно не согласиться.

Словарь синонимов русского языка даёт такое определение понятию «мapaзм» – это вырождение, деградация.

Да-да. Цифровизация начала деградировать, едва родившись. Её повело не в ту степь, точнее, повели – вместо пользы людям из неё решили сделать тотального надсмотрщика. Но «силы природы» тут же включили свой неподвластный нам юмор – вместо облегчения и ускорения всевозможных операций и процедур цифровизация принесла их усложнение, бюрократизацию и замедление. Всё это происходит на фоне постоянной путаницы, сбоев, хаоса, а иногда и преднамеренного вредительства.

Очень показательный, просто классический случай цифрового мapaзма произошёл на этой неделе. Он просто просится на страницу текста, чтобы о нём рассказали.

Понадобилось мне оформить доступ к электронной медицинской карте. Для москвичей эта возможность предусмотрена на портале городских электронных услуг mos ru. Казалось бы – что может быть проще для человека, пользующегося этим порталом уже десятилетие. Благодаря постоянной активности и указанию полных подробных сведений моей учётной записи был автоматически присвоен статус «полной», о чём меня известили по электронной почте:

Я заполнил все необходимые для получения медкарты данные на странице портала, приложил скан паспорта (сейчас при стандартной учётной записи уже требуют и цветную фотографию, на которой вы держите свой действующий паспорт РФ в раскрытом виде на первом развороте, но для ПОЛНОЙ учётной записи это не требуется) и отправил заявку.

Через сутки мне пришёл отказ следующего содержания:

«Вам отказано в предоставлении услуги в связи с отсутствием на прикрепленной фотографии изображения заявителя, держащего в руках первый разворот действующего паспорта РФ. Вы можете повторно подать запрос, но перед этим рекомендуем ознакомиться с требованиями к фотографии https://www.mos.ru/pgu/common/photo.pdf, либо обратиться в любой удобный центр госуслуг «Мои Документы» для подтверждения личности и получения «полного» доступа к «личному кабинету» на mos.ru. Для пользователей с «полным» доступом прикрепление фотографии не требуется».

И вот тут я был немного обескуражен. Атака мapaзмом искусственного интеллекта оказалась слишком невообразимой. Требовать «полного доступа» от обладателя «полного доступа» и на основании имеющегося «полного доступа» отказывать в предоставлении услуги «полного доступа»? Запрещать мне доступ к моей же медицинской карте? Это как?!!

Собянин, браво! Браво, Департамент информационных технологий города Москвы! Браво, Департамент здравоохранения! Вы наглядно продемонстрировали – как «машина» легко может вычеркнуть человека без всяких оснований, причин и с полной невозможностью что-либо сделать. Сиди, читай: «Вам отказано в предоставлении…», хоть учитайся, ничего изменить нельзя.

Я, конечно, отправил обращение через электронную приёмную этого портала с темой «Необоснованный отказ в предоставлении доступа к моей медкарте». Но ответ будет только через месяц. Быстрее цифровой искусственный интеллект, видимо, работать не умеет. Всё, как и 30 лет назад.

Это очень неприятная ситуация. Хуже может быть только, когда вы звоните по важному срочному вопросу в какую-либо службу и вместо человека вынуждены разговаривать с роботом, который бестолково и безрезультатно гоняет вас по кругу по алгоритму: «Нажмите один, нажмите два, нажмите три…», а потом бросает трубку.

Мощь и сила цифровизации и «искусственного интеллекта» постоянно проявляются и в рекламе – когда вам неделями навязчиво подсовывают товар, который вы уже давно купили в каком-нибудь интернет-магазине. Можно, конечно, закрыть навязчивое окно и нажать кнопочку «уже приобретено», но тогда «интеллект» начнёт предлагать вам ещё что-нибудь ненужное. А бывают и более пугающие вещи – вдруг появляется реклама того, чего вы никогда в сети не искали, но только что обсуждали вслух. Обычно так случается, если рядом находился смартфон, подключённый в данный момент к сети по Wi -Fi. Получается, даже если никаких программ голосового ввода на смартфоне не установлено, он всё равно «слушает», куда-то передаёт, а потом некий «аналитический центр» возвращает вам результат в виде рекламы. И выдаёт на все компьютеры, подключённые к данному IP -адресу через роутер. Но ведь это уже прямое преступление! Вмешательство в частную жизнь!

Получил широкую известность недавний случай, когда алгоритм «искусственного интеллекта» одной широко известной соцсети едва не заблокировал пожизненно аккаунт Риты Рич-Малкахи, 81-летней женщины из Австралии, за то, что она размещала фото связанных ею игрушек – разноцветных поросят, предлагая их для продажи. Алгоритм «искусственного интеллекта» ужаснули слова «белый» и «свинья», которые пожилая женщина использовала в одном из комментариев. После потери мужа в 2020 году женщина, чтобы отвлечься, решила связать сто свинок, продать их, а вырученные средства отдать благотворительному фонду для поддержки сирот. В одном из комментариев она позволила себе словосочетание «white pigs» («белые свинки/свиньи»). За это на неё тут же обрушился искусственный «интеллект», обвинив в xeйтcпиче – использовании языка нeнaвиcти. А женщине всего лишь нравились поросята, вязаные белые поросята.

В этом и состоит один из двух ужacов цифровизации – в её непробиваемом мapaзме. (Второй – это отсутствие дублирующих аналоговых систем, которые могли бы спасти в ситуации, когда все цифровые системы выйдут из строя.) Цифровые детища рук человеческих всё чаще совершают бредовые ошибки, в результате которых человек оказывается в абсолютно беспомощной, тупиковой ситуации, которую невозможно исправить, так как больше не к кому обратиться (случай с австралийкой, где в итоге разобрались – исключение). А если теоретически и есть к кому, то решение может быть принято только через месяц, а то и неизвестно когда. А если это вопрос жизни? А если решение не требует отлагательств? На эти вопросы цифровизация не даёт ответа. Человечество само себя загоняет в тупик.

Десять лет назад нам говорили, что это ошибки роста, становления «цифровизации». Оказалось – нет. Чем взрослее она становится, тем больше ошибок начинает совершать. И тем выше становится цена этих ошибок, поскольку на откуп ей отдано всё.

Источник: https://zen.yandex.ru/media/honest_view/neprobivaemyi-mapazm-cifrovizacii-iskusstvennyi-intellekt-sovershaet-vse-bolshe-oshibok-6044294cb8613c1dbbaf4a23