Во вступлении Валерий Фадеев отметил, что в конце 2020 г. Владимир Путин поручил разработать методологические и правовые основы условного Цифрового кодекса. Это не означает, что на свет появится отдельный большой документ, возможно, будут вноситься поправки в действующие законы. При СПЧ создана рабочая группа, которую возглавляет эксперт по «искусственному интеллекту» Игорь Ашманов, в нее входят представители разных министерств и ведомств, ответственных за цифровизацию. Налажено взаимодействие с Правительством, готовится презентация доклада, над которым работают тот же Ашманов с коллегами.
«Новые технологии проникают во все сферы жизни человека, в наш быт, меняют их… Естественно, они несут в себе риски, мы должны их минимизировать, а желательно – устранить полностью. Это, прежде всего, риски утечки сведений о частной жизни граждан в руки коммерческих организаций: здесь право на неприкосновенность частной жизни, на личную и семейную тайну, на тайну переписки. Эти наши права нарушаются ежедневно. Право на труд (сбор сведений о человеке, которые могут повлиять на его трудоустройство), на частную собственность – сейчас идут разговоры о том, чтобы перевести все документы о частной собственности в электронный формат.
А злоумышленники, что с ними делать? Нам говорят – вы архаики, вы находитесь в 19 веке, вам бумажка нужна на частную собственность. Но очевидно, что если бумажки не будет, то риски возрастают.
Право на образование. Еще раз недавно президент сказал, и это очень важно: дистанционное образование не может вытеснить образование очное. И те, кто с пафосом говорит, что теперь будет новый мир, где останется только дистант, – не правы, по нашему мнению. Это нарушает права людей на полноценное образование. Список можно продолжать, но наша задача – снять риски и сделать так, чтобы права людей были защищены», – подытожил Фадеев.
Игорь Ашманов продолжил мысль коллеги и рассказал про задачи рабочей группы СПЧ:
«Мы должны были создать концепцию и дорожную карту защиты прав человека в цифровой среде. Мы это сделали в срок, согласовали с Правительством и в августе подали в Администрацию президента. Свою работу мы выполнили, но есть еще один большой документ – это доклад СПЧ, являющийся подложкой для этой концепции.
В этой работе нам помогали эксперты ВШЭ. Они сделали большое исследование – четыре отдельных документа – и провели опрос граждан. Вся эта галопирующая цифровизация характерна тем, что граждан вообще не спрашивают: оно им надо или нет? В области образования почти не спрашивают родителей – нужна им «цифровая школа» или нет. То же касается других сфер. Анализ общественных настроений в этой сфере чрезвычайно важен.
На мой взгляд, одна из задач СПЧ здесь – привлечь внимание к проблеме и вызвать у общества осознание того, что происходит. Сейчас страну захлестнула волна мошенничества – миллиарды звонков аферистов людям, спрашивающих о необслуживаемых кредитах, причем они знают не только ФИО и телефон человека, но и его кредитный договор – такое можно узнать только в банке. Может, нам надо как-то остановиться, осознать риски, не форсировать дальше эту цифровизацию? Никто этого не сделал.
Но сейчас вместо того, чтобы остановиться, найти виновных в утечках данных, разобраться в проблеме, внезапно еще и биометрию пытаются внедрить. А биометрия отличается тем, что пароль, номер телефона и даже имя вы можете поменять, а вот отпечатки пальцев, форму лица и сетчатки глаза вы сменить не можете никогда. Своими документами мы и пытаемся добиться осознания этих моментов», – рассказал Ашманов.
Затем слово взял старший научный сотрудник Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Сергей Ревякин. Подготовился к докладу он основательно, так что приводим выступление почти без купюр.
«С точки зрения государственных организаций всегда есть риск автоматической слежки с дальнейшим принятием решений (по конкретному человеку) в автоматическом/полуавтоматическом режиме», – начал Ревякин.
Обратим особое внимание – среди первостепенных рисков эксперт ВШЭ назвал автоматический режим взаимодействия государства с гражданами. А теперь давайте вспомним одну важную фразу, которую как бы не заметили все официозные СМИ. Она принадлежит замминистра труда Ольге Баталиной, и сказано это было не где-нибудь, а на предвыборной встрече кандидатов от «Единой России» с президентом 22 августа:
«Мы создаем систему, которая будет собирать и обрабатывать сведения о гражданине без его участия», – пооткровенничала Баталина.
То есть «ЕР» в Госдуме планирует продвигать именно такие законы, которые позволят властям постоянно следить и принимать решения по гражданам в автоматическом режиме (!). Что, кстати, изначально противоречит целому ряду ключевых статей Конституции и ведет к дискриминации людей. Все то, от чего предостерегают ученый из «Вышки», Ашманов и Фадеев – именно такая система и создается (!), что не может не вызывать тревоги.
Но вернемся к докладу Ревякина, который далее озвучил важные цифры:
«Отрицательные последствия цифровизации хорошо видны, если мы посмотрим на статистику киберпреступлений. В России за последние 5 лет количество таких преступлений выросло в 25 раз. Причем 75% из них никогда не будут раскрыты. Средств, которые позволили бы увеличить степень раскрываемости, нет – и это настораживает.
В последние годы именно использование машинных алгоритмов применительно к гражданам приводило к нарушению конфиденциальности, дискриминации и т.д. Есть пример Эстонии, где алгоритмы не так давно использовались для назначения социальных пособий. Из-за того, что не по всем гражданам были заполнены некоторые поля, им отказали в выдаче пособий.
Сегодня не случайно говорили об опасностях применения биометрической идентификации. Если использовать технологию deep fake, то в 95% случаях можно эффективно обманывать систему искусственными слепками лиц. Это огромные риски для добропорядочных граждан.
Безусловно, говоря о цифровизации нельзя не упомянуть инициативу с социальным рейтингом – то есть попыткой на основе собранного массива данных профилировать пользователей, присваивать им какие-то метки, в дальнейшем использовать их для принятия автоматических решений. Не всегда это работает открыто, не всегда понятна методология начисления баллов. В Китае, например, любая апелляция по баллам рассматривается как нелояльность системе. Человек безусловно оказывается в заложниках в этой цифровой тюрьме, где он никак не может повлиять на свою судьбу (!)», – отметил Ревякин.
Авторы доклада из ВШЭ провели важный опрос по репрезентативной выборке 2007 граждан со всей России старше 18 лет – в формате телефонного интервью. И результаты говорят сами за себя:
«Опасаетесь ли вы при пользовании интернетом, что ваши данные будут доступны другим лицам? – да – 64%, нет – 35%, затрудняюсь ответить – 1%,
Улучшило бы или ухудшило качество вашей жизни введение социального рейтинга? – ухудшило – 42%, улучшило – 27%, затрудняюсь ответить – 31%».
Вроде бы все логично, только 27% одобряющих соцрейтинг можно подвергнуть сомнениям. Вероятно, многие отвечавшие просто не в курсе всех «прелестей» данной инновации (см. материал «Катюши» по теме ). В целом граждане считают, что несмотря на развитие искусственного интеллекта, решения, касающиеся людей, должен принимать человек, а не ИИ, как отметил в конце Ревякин.
«Мы не какие-то мракобесы или луддиты. Я закончил физтех, Игорь Ашманов – ведущий специалист по ИИ. Мы не собираемся выбрасывать компьютеры или останавливать прогресс. Но вы же видите по опросам, что граждане обеспокоены. Информация утекает, и мы должны на этот запрос граждан отвечать», – попытался оправдаться Фадеев перед адептами техпрогресса. Впрочем, консерваторам и традиционалистам тут пояснять ничего не нужно – мы сами прекрасно все понимаем.
Ведущая дискуссии зачитала важный вопрос от зрителя:
«Не нужно ли сохранить бумажный формат ключевых документов: паспорта, трудовой книжки, свидетельства о собственности и т.д.? Часто бывают сбои в базах данных, хакерские атаки, не станет ли такой подход надежной защитой?»
Игорь Ашманов выразил в ответ четкую и принципиальную позицию:
«Конечно, граждане хотят сохранить бумажные оригиналы. Мы подробно рассмотрели этот вопрос в нашей концепции и в докладе. Мало кто понимает, что все форматы электронных документов живут не дольше 15-20 лет. Умирают абсолютно все форматы прошлого – сегодня это дошло до cd и dvd-дисков. Конечно, мне возразят: мы будем делать бэкапы, но переносить все полноценно и в сохранности в огромных объемах нереально, многое будет теряться. Перенося все в цифру, мы резко повышаем уязвимость. Не говоря уже о том, что простого отключения электричества достаточно, чтобы все документы стали недоступны.
Надо еще понимать, что электронные документы резко повышают коррупциогенность и криминогенность. Их можно изменять, а поскольку править их может тот, кто раздает права доступа – условный сисадмин или главный айтишник – он потом еще может и свои следы замести. Я сталкивался с историей, когда электронные кадастры аккуратно подправляются, происходит сдвиг границ, создается дело по этому поводу – и дальше просто отнимают землю. Такое часто происходит в южных регионах. Поэтому категорически нельзя признавать электронные документы оригиналом, это будет катастрофическое решение», – подчеркнул эксперт.
Отвечая на вопрос о необходимости для России отдельного закона о цифровом суверенитете России, Ашманов указал, что здесь надо сделать упор на укрощение американских IT-гигантов.
«Определенные шаги в этом направлении делаются. В частности, речь о законе о «приземлении» в России западных цифровых платформ, чтобы ввести их в нашу юрисдикцию. Закон об ответственности за контент – тут работа ведется. По-хорошему, нужен закон о суверенитете в отношении суперкорпораций, которые проникают за границу, никого не спрашивая, и ведут тут себя как хотят. Надо понимать, что нет никаких глобальных IT-корпораций, есть американские корпорации – Google, Facebook, Instagram и т.д. Их надо приводить в соответствие с нашими законами, и тогда у нас появится свой «кусок» суверенитета», – отметил Ашманов.
В заключительном слове предприниматель и член СПЧ рассказал про ключевые моменты концепции защиты прав граждан в цифре. Получилось ярко и откровенно:
«В документе написано, что принцип должен быть простой: технология используется во благо человека. Человек первичен, за ним приоритет, все остальные инновации должны приниматься или не приниматься исходя из этого принципа. На той стороне просто не с кем вести диалог. Технология – это не субъект.
Да, есть люди, и надо прямо об этом сказать, которые пытаются внедрить новую религию – религию боготехнологий. Она якобы даст нам все сразу и прямо сейчас: бессмертие, безделье, райское существование. Но это именно религия – надо понимать, многие из них буквально создают «церковь технологий». Это тоже нелепость, это – маргиналы. Технология должна быть для человека, потому что она по своему назначению нечто вроде стула или тарелки – мы ее создаем, чтобы пользоваться, себе в помощь».
Очень здравые рассуждения Ашманова и хорошее начинание СПЧ, вот только в случае победы в Думе Баталиной и Ко возникают большие вопросы относительно практического соблюдения этих принципов. Нам же было официально объявлено: создается система автоматического контроля и управления гражданами, независимо от нашей воли (!). Надеемся, что концепция Ашманова реально будет защищать права людей, что она будет одобрена во всех ключевых инстанциях и получит практическое воплощение. Нам не нужны никакие «цифровые права», главное – сохранить традиционные, базовые права и свободы, гарантированные каждому Конституцией. Принудительные эксперименты над людьми недопустимы – пора бы уже господам трансгуманистам это усвоить и попридержать коней.
РИА Катюша
Читайте наш сайт!!!
Подписывайтесь на наш Телеграм
ПОДПИСЫВАЙТЕСЬ НА НАШУ ГРУППУ ВКОНТАКТЕ
Поддержать наш проект пожертвованием
«Новые технологии проникают во все сферы жизни человека, в наш быт, меняют их… Естественно, они несут в себе риски, мы должны их минимизировать, а желательно – устранить полностью. Это, прежде всего, риски утечки сведений о частной жизни граждан в руки коммерческих организаций: здесь право на неприкосновенность частной жизни, на личную и семейную тайну, на тайну переписки. Эти наши права нарушаются ежедневно. Право на труд (сбор сведений о человеке, которые могут повлиять на его трудоустройство), на частную собственность – сейчас идут разговоры о том, чтобы перевести все документы о частной собственности в электронный формат.
А злоумышленники, что с ними делать? Нам говорят – вы архаики, вы находитесь в 19 веке, вам бумажка нужна на частную собственность. Но очевидно, что если бумажки не будет, то риски возрастают.
Право на образование. Еще раз недавно президент сказал, и это очень важно: дистанционное образование не может вытеснить образование очное. И те, кто с пафосом говорит, что теперь будет новый мир, где останется только дистант, – не правы, по нашему мнению. Это нарушает права людей на полноценное образование. Список можно продолжать, но наша задача – снять риски и сделать так, чтобы права людей были защищены», – подытожил Фадеев.
Игорь Ашманов продолжил мысль коллеги и рассказал про задачи рабочей группы СПЧ:
«Мы должны были создать концепцию и дорожную карту защиты прав человека в цифровой среде. Мы это сделали в срок, согласовали с Правительством и в августе подали в Администрацию президента. Свою работу мы выполнили, но есть еще один большой документ – это доклад СПЧ, являющийся подложкой для этой концепции.
В этой работе нам помогали эксперты ВШЭ. Они сделали большое исследование – четыре отдельных документа – и провели опрос граждан. Вся эта галопирующая цифровизация характерна тем, что граждан вообще не спрашивают: оно им надо или нет? В области образования почти не спрашивают родителей – нужна им «цифровая школа» или нет. То же касается других сфер. Анализ общественных настроений в этой сфере чрезвычайно важен.
На мой взгляд, одна из задач СПЧ здесь – привлечь внимание к проблеме и вызвать у общества осознание того, что происходит. Сейчас страну захлестнула волна мошенничества – миллиарды звонков аферистов людям, спрашивающих о необслуживаемых кредитах, причем они знают не только ФИО и телефон человека, но и его кредитный договор – такое можно узнать только в банке. Может, нам надо как-то остановиться, осознать риски, не форсировать дальше эту цифровизацию? Никто этого не сделал.
Но сейчас вместо того, чтобы остановиться, найти виновных в утечках данных, разобраться в проблеме, внезапно еще и биометрию пытаются внедрить. А биометрия отличается тем, что пароль, номер телефона и даже имя вы можете поменять, а вот отпечатки пальцев, форму лица и сетчатки глаза вы сменить не можете никогда. Своими документами мы и пытаемся добиться осознания этих моментов», – рассказал Ашманов.
Затем слово взял старший научный сотрудник Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Сергей Ревякин. Подготовился к докладу он основательно, так что приводим выступление почти без купюр.
«С точки зрения государственных организаций всегда есть риск автоматической слежки с дальнейшим принятием решений (по конкретному человеку) в автоматическом/полуавтоматическом режиме», – начал Ревякин.
Обратим особое внимание – среди первостепенных рисков эксперт ВШЭ назвал автоматический режим взаимодействия государства с гражданами. А теперь давайте вспомним одну важную фразу, которую как бы не заметили все официозные СМИ. Она принадлежит замминистра труда Ольге Баталиной, и сказано это было не где-нибудь, а на предвыборной встрече кандидатов от «Единой России» с президентом 22 августа:
«Мы создаем систему, которая будет собирать и обрабатывать сведения о гражданине без его участия», – пооткровенничала Баталина.
То есть «ЕР» в Госдуме планирует продвигать именно такие законы, которые позволят властям постоянно следить и принимать решения по гражданам в автоматическом режиме (!). Что, кстати, изначально противоречит целому ряду ключевых статей Конституции и ведет к дискриминации людей. Все то, от чего предостерегают ученый из «Вышки», Ашманов и Фадеев – именно такая система и создается (!), что не может не вызывать тревоги.
Но вернемся к докладу Ревякина, который далее озвучил важные цифры:
«Отрицательные последствия цифровизации хорошо видны, если мы посмотрим на статистику киберпреступлений. В России за последние 5 лет количество таких преступлений выросло в 25 раз. Причем 75% из них никогда не будут раскрыты. Средств, которые позволили бы увеличить степень раскрываемости, нет – и это настораживает.
В последние годы именно использование машинных алгоритмов применительно к гражданам приводило к нарушению конфиденциальности, дискриминации и т.д. Есть пример Эстонии, где алгоритмы не так давно использовались для назначения социальных пособий. Из-за того, что не по всем гражданам были заполнены некоторые поля, им отказали в выдаче пособий.
Сегодня не случайно говорили об опасностях применения биометрической идентификации. Если использовать технологию deep fake, то в 95% случаях можно эффективно обманывать систему искусственными слепками лиц. Это огромные риски для добропорядочных граждан.
Безусловно, говоря о цифровизации нельзя не упомянуть инициативу с социальным рейтингом – то есть попыткой на основе собранного массива данных профилировать пользователей, присваивать им какие-то метки, в дальнейшем использовать их для принятия автоматических решений. Не всегда это работает открыто, не всегда понятна методология начисления баллов. В Китае, например, любая апелляция по баллам рассматривается как нелояльность системе. Человек безусловно оказывается в заложниках в этой цифровой тюрьме, где он никак не может повлиять на свою судьбу (!)», – отметил Ревякин.
Авторы доклада из ВШЭ провели важный опрос по репрезентативной выборке 2007 граждан со всей России старше 18 лет – в формате телефонного интервью. И результаты говорят сами за себя:
«Опасаетесь ли вы при пользовании интернетом, что ваши данные будут доступны другим лицам? – да – 64%, нет – 35%, затрудняюсь ответить – 1%,
Улучшило бы или ухудшило качество вашей жизни введение социального рейтинга? – ухудшило – 42%, улучшило – 27%, затрудняюсь ответить – 31%».
Вроде бы все логично, только 27% одобряющих соцрейтинг можно подвергнуть сомнениям. Вероятно, многие отвечавшие просто не в курсе всех «прелестей» данной инновации (см. материал «Катюши» по теме ). В целом граждане считают, что несмотря на развитие искусственного интеллекта, решения, касающиеся людей, должен принимать человек, а не ИИ, как отметил в конце Ревякин.
«Мы не какие-то мракобесы или луддиты. Я закончил физтех, Игорь Ашманов – ведущий специалист по ИИ. Мы не собираемся выбрасывать компьютеры или останавливать прогресс. Но вы же видите по опросам, что граждане обеспокоены. Информация утекает, и мы должны на этот запрос граждан отвечать», – попытался оправдаться Фадеев перед адептами техпрогресса. Впрочем, консерваторам и традиционалистам тут пояснять ничего не нужно – мы сами прекрасно все понимаем.
Ведущая дискуссии зачитала важный вопрос от зрителя:
«Не нужно ли сохранить бумажный формат ключевых документов: паспорта, трудовой книжки, свидетельства о собственности и т.д.? Часто бывают сбои в базах данных, хакерские атаки, не станет ли такой подход надежной защитой?»
Игорь Ашманов выразил в ответ четкую и принципиальную позицию:
«Конечно, граждане хотят сохранить бумажные оригиналы. Мы подробно рассмотрели этот вопрос в нашей концепции и в докладе. Мало кто понимает, что все форматы электронных документов живут не дольше 15-20 лет. Умирают абсолютно все форматы прошлого – сегодня это дошло до cd и dvd-дисков. Конечно, мне возразят: мы будем делать бэкапы, но переносить все полноценно и в сохранности в огромных объемах нереально, многое будет теряться. Перенося все в цифру, мы резко повышаем уязвимость. Не говоря уже о том, что простого отключения электричества достаточно, чтобы все документы стали недоступны.
Надо еще понимать, что электронные документы резко повышают коррупциогенность и криминогенность. Их можно изменять, а поскольку править их может тот, кто раздает права доступа – условный сисадмин или главный айтишник – он потом еще может и свои следы замести. Я сталкивался с историей, когда электронные кадастры аккуратно подправляются, происходит сдвиг границ, создается дело по этому поводу – и дальше просто отнимают землю. Такое часто происходит в южных регионах. Поэтому категорически нельзя признавать электронные документы оригиналом, это будет катастрофическое решение», – подчеркнул эксперт.
Отвечая на вопрос о необходимости для России отдельного закона о цифровом суверенитете России, Ашманов указал, что здесь надо сделать упор на укрощение американских IT-гигантов.
«Определенные шаги в этом направлении делаются. В частности, речь о законе о «приземлении» в России западных цифровых платформ, чтобы ввести их в нашу юрисдикцию. Закон об ответственности за контент – тут работа ведется. По-хорошему, нужен закон о суверенитете в отношении суперкорпораций, которые проникают за границу, никого не спрашивая, и ведут тут себя как хотят. Надо понимать, что нет никаких глобальных IT-корпораций, есть американские корпорации – Google, Facebook, Instagram и т.д. Их надо приводить в соответствие с нашими законами, и тогда у нас появится свой «кусок» суверенитета», – отметил Ашманов.
В заключительном слове предприниматель и член СПЧ рассказал про ключевые моменты концепции защиты прав граждан в цифре. Получилось ярко и откровенно:
«В документе написано, что принцип должен быть простой: технология используется во благо человека. Человек первичен, за ним приоритет, все остальные инновации должны приниматься или не приниматься исходя из этого принципа. На той стороне просто не с кем вести диалог. Технология – это не субъект.
Да, есть люди, и надо прямо об этом сказать, которые пытаются внедрить новую религию – религию боготехнологий. Она якобы даст нам все сразу и прямо сейчас: бессмертие, безделье, райское существование. Но это именно религия – надо понимать, многие из них буквально создают «церковь технологий». Это тоже нелепость, это – маргиналы. Технология должна быть для человека, потому что она по своему назначению нечто вроде стула или тарелки – мы ее создаем, чтобы пользоваться, себе в помощь».
Очень здравые рассуждения Ашманова и хорошее начинание СПЧ, вот только в случае победы в Думе Баталиной и Ко возникают большие вопросы относительно практического соблюдения этих принципов. Нам же было официально объявлено: создается система автоматического контроля и управления гражданами, независимо от нашей воли (!). Надеемся, что концепция Ашманова реально будет защищать права людей, что она будет одобрена во всех ключевых инстанциях и получит практическое воплощение. Нам не нужны никакие «цифровые права», главное – сохранить традиционные, базовые права и свободы, гарантированные каждому Конституцией. Принудительные эксперименты над людьми недопустимы – пора бы уже господам трансгуманистам это усвоить и попридержать коней.
РИА Катюша
Читайте наш сайт!!!
Подписывайтесь на наш Телеграм
ПОДПИСЫВАЙТЕСЬ НА НАШУ ГРУППУ ВКОНТАКТЕ
Поддержать наш проект пожертвованием
04 Сентября 2021 в 02:40
