Эксперт: Опасен ли искусственный интеллект, которым мы пользуемся в мобильных телефонах? ИНТЕРВЬЮ

«Если внутри организации существуют безопасные системы искусственного интеллекта, сотрудники могут использовать эти инструменты для более эффективной работы, и при этом риск утечки данных сводится к минимуму, поскольку нет необходимости обращаться к внешним платформам»

Технологии искусственного интеллекта уже давно перестали быть футуристическим понятием и стали неотъемлемой частью нашей повседневной жизни, особенно мобильных телефонов. Резюме сообщений, автоматическая обработка фотографий, голосовые помощники и «умные» приложения обеспечивают пользователям удобство, однако вопросы конфиденциальности и безопасности, которые порождают эти технологии, вызывают все больше обсуждений в обществе. Насколько безопасен искусственный интеллект, используемый в мобильных телефонах? С какими рисками сталкиваются наши личные и рабочие данные? На что пользователям следует обращать внимание?

Чтобы прояснить эти вопросы, АЗЕРТАДЖ обсудил тему с инженером-программистом, работавшим в международных технологических компаниях и в настоящее время занимающимся мобильной безопасностью и решениями в области искусственного интеллекта в компании Samsung Electronics Адилем Алиевым.

Отметим, что до 2022 года он работал в американской компании Amazon в подразделении голосового ассистента на базе искусственного интеллекта Alexa. В разные годы А. Алиев преподавал в Университете AДA, Бакинском государственном университете и Азербайджанском техническом университете, делясь со студентами практическими знаниями, полученными в индустрии.

А. Алиев также перевел на азербайджанский язык книгу известного ученого-информатика Томаса Кормена Algorithms Unlocked, внеся значительный вклад в устранение языкового барьера для студентов, изучающих алгоритмы и структуры данных. В настоящее время эта книга используется в качестве учебного пособия в ряде отечественных вузов. Он является одним из основателей EdTech-платформы ÖzünÖyrən, нацеленной на развитие безлимитного онлайн-образования в Азербайджане. Адиль Алиев имеет статус ACM Senior Member, является официальным рецензентом документа SWEBOK (The Guide to the Software Engineering Body of Knowledge), а также соавтором национальной образовательной программы бакалавриата по специальности «Информационная безопасность».

- Сегодня искусственный интеллект присутствует во многих приложениях наших смартфонов. Мы можем улучшать фотографии, преобразовывать голосовые сообщения в текст, делать краткие резюме длинных электронных писем, получать ответы на вопросы по разным темам. Такие инструменты, как ChatGPT, Gemini или DeepSeek, стали для многих повседневными. Насколько опасно столь широкое использование искусственного интеллекта, особенно в мобильных телефонах? Стоит ли людям беспокоиться?

- В современную эпоху искусственный интеллект незаметно помогает нам во многих сферах повседневной жизни, поэтому возникновение такого вопроса вполне естественно. Прежде всего, необходимо уточнить, что именно мы понимаем под искусственным интеллектом в мобильных телефонах. Речь идет о программных системах, которые делают смартфоны более «умными», анализируют данные и отвечают на наши запросы на естественном языке. Например, такие системы предсказывают следующее слово при наборе текста, улучшают качество фотографий, удаляют нежелательные элементы, автоматически фильтруют спам-звонки, резюмируют длинные сообщения, переводят тексты на разные языки, ведут заметки во время совещаний, отвечают на вопросы почти как человек.

Учитывая все это, краткий ответ на вопрос таков: сам по себе искусственный интеллект не опасен. Основной риск зависит от того, как он используется, какими разрешениями обладает на устройстве и к каким данным имеет доступ. Во многих современных смартфонах значительная часть операций с ИИ выполняется непосредственно на устройстве, без отправки данных в облачные серверы. С точки зрения безопасности это более надежный подход, поскольку личная информация не покидает телефон. Однако более сложные системы ИИ не могут работать исключительно на ресурсах небольших мобильных устройств. В таких случаях данные передаются на серверы, где искусственный интеллект фактически функционирует удаленно и обрабатывает эту информацию. К таким системам относятся повседневно используемые нами ChatGPT, Gemini, DeepSeek, Perplexity, Suno, Copilot и другие.

Компании, управляющие этими системами, обладают высоким уровнем репутации и значительными ресурсами, поэтому серьезно относятся к вопросам безопасности и, в целом, считаются надежными. Однако каждый должен понимать, что стопроцентной безопасности не существует. Ни одна из этих компаний не застрахована от рисков. Время от времени в медиа появляются сообщения о кибератаках на крупные технологические корпорации. Поэтому пользователям следует проявлять осторожность при передаче особо конфиденциальной и чувствительной информации таким системам.

Кроме того, сегодня существуют тысячи различных приложений и сервисов, которые используют ChatGPT, Gemini и аналогичные системы для предоставления дополнительного функционала. Большинство таких платформ управляются небольшими компаниями, среди которых нередко встречаются неопытные команды со слабой инфраструктурой безопасности. В таких случаях риски существенно возрастают. Поэтому без необходимости не рекомендуется передавать подобным сервисам личные и чувствительные данные.

- Как на практике обычный пользователь может управлять этими рисками и правильно настраивать разрешения приложений?

- Внимательность и ответственность пользователя - самый важный механизм безопасности в этом вопросе. Речь идет не о сложных технических нюансах, а об ответственном отношении к собственным данным и устройству. При установке большинства мобильных приложений у нас запрашиваются различные разрешения: доступ к камере, микрофону, контактам, сообщениям, файлам или галерее.

Пользователь должен задать себе простой вопрос: действительно ли этому приложению необходимо данное разрешение? Например, если приложение на базе искусственного интеллекта предназначено для удаления лишних элементов с фотографий, запрос доступа к микрофону или сообщениям должен вызвать подозрение. Если ИИ-приложение работает только с текстом, ему не нужен полный доступ к галерее.

Я рекомендую всем периодически заходить в раздел Permissions / Privacy телефона и проверять, к каким данным имеют доступ приложения. Это занимает всего несколько минут, но может предотвратить серьезные риски.

Помимо автоматических разрешений, важен и характер передаваемой информации. Даже в системах, которые мы считаем надежными, не рекомендуется делиться данными удостоверений личности, банковскими реквизитами, паролями, конфиденциальными рабочими документами и личной перепиской.

Искусственный интеллект - очень мощный инструмент. Но любой мощный инструмент полезен при правильном использовании и рискован при безответственном.

- Этот вопрос интересует многих: «Смартфон нас прослушивает?» Иногда люди говорят, что спустя несколько минут после разговора видят рекламу на ту же тему. Это действительно происходит или это просто совпадение?

- Это классический вопрос, и в эпоху искусственного интеллекта его возобновление вполне закономерно. Если в телефоне нет шпионского ПО или вредоносных программ, то в нормальных условиях смартфон не подслушивает вас тайно в режиме 24/7. Возможно, многие читатели с этим не согласятся. Но давайте сначала посмотрим на практическую сторону вопроса, а затем перейдем к техническим деталям.

Если бы было доказано, что телефон постоянно и без разрешения подслушивает пользователя, это создало бы для производителей серьезные юридические и технологические риски. В законодательстве многих стран тайное прослушивание без судебного решения является уголовным преступлением. Представьте, что будет доказано, что, к примеру, телефоны Apple тайно прослушивают пользователей. Конкуренты немедленно воспользовались бы этим, миллионы людей подали бы иски, и компания в кратчайшие сроки понесла бы колоссальные репутационные и финансовые потери. Поэтому сознательное внедрение такого механизма крупными производителями нереалистично: это не принесло бы выгоды, а нанесло бы огромный ущерб. Та же логика применима и к другим крупным брендам.

Однако это не означает, что микрофон никогда не активируется. В ряде случаев его работа напрямую связана с разрешениями, предоставленными пользователем приложениям.

Тогда возникает вопрос: откуда берется эффект «я поговорил - и сразу увидел рекламу»? Это интересный феномен, но его основная причина - не микрофон, а мощь анализа данных. Сегодня почти вся наша жизнь проходит через смартфон: история поисков, посещаемые сайты, используемые приложения, местоположение в разное время суток, прочитанные статьи, лайки и другие поведенческие сигналы. Совокупный анализ этих данных позволяет с высокой точностью прогнозировать наши интересы. Реклама формируется именно на этой основе. Часто такие прогнозы совпадают с темами наших разговоров, и человеку кажется, что телефон его подслушал. На самом деле телефон вас не «слушает», он вас «знает».

- Если микрофон не слушает нас постоянно, то как голосовые ассистенты реагируют на фразы вроде Hey Google, Hey Bixby, Hey Siri?

- Эти системы основаны на технологиях распознавания определенных ключевых слов или выражений. Например, система Alexa компании Amazon использует технологию, называемую Keyword Spotting. С технической точки зрения устройство действительно «слушает» окружающий звук, но делает это с минимальным энергопотреблением, локально и без облачных вычислений. Цель - лишь распознать конкретный звуковой шаблон. Процесс реализуется с помощью простых алгоритмов, чтобы экономить энергию и сохранять конфиденциальность. Только после распознавания «слова пробуждения» система активируется, и лишь затем голосовые данные передаются на серверы для обработки. Именно поэтому такие фразы называют wake word - «слово пробуждения».

У каждого производителя есть собственный технический подход к реализации этого процесса. При этом важно отметить, что некоторые вредоносные программы действительно могут постоянно прослушивать пользователя. Именно поэтому не рекомендуется устанавливать на телефон неизвестные и ненужные приложения. Нелегальный контент - пиратские фильмы, книги, неофициальные ресурсы и рискованные сайты - создает дополнительные угрозы.

В современных смартфонах при активации микрофона на экране отображается специальный световой индикатор, обеспечивающий пользователю реальный контроль. Если микрофон активируется без вашего ведома, то это будет визуально заметно. Если телефон работает на официальной операционной системе и в нее не вносились изменения, индикатор обязательно появится. Интересно и то, что в Android-устройствах к микрофону одновременно может иметь доступ только одно приложение - два разных приложения не могут использовать его одновременно.

- Приложения на базе искусственного интеллекта стали неотъемлемой частью и нашей профессиональной деятельности: люди используют их для резюмирования документов, написания текстов, подготовки отчетов. Насколько это безопасно с точки зрения конфиденциальности рабочих документов?

- Здесь вопрос выходит за рамки индивидуального использования и касается корпоративной безопасности данных. Я бы добавил сюда и темы государственной тайны и национальной безопасности. Сегодня ИИ-системы используют даже государственные структуры, работающие с секретной информацией. Многие люди ради удобства загружают в такие системы внутренние документы, проекты договоров, финансовые отчеты, данные государственных учреждений и другую чувствительную информацию.

Основная проблема в том, что пользователь не может полностью контролировать, где именно хранятся эти данные, как долго они сохраняются и кто имеет к ним доступ.

Крупные технологические компании серьезно относятся к безопасности, однако человеческий фактор и системные ошибки существуют всегда. История не раз показывала, что даже самые мощные и опытные компании не застрахованы от утечек данных.

Важно помнить: если вы используете конфиденциальную информацию, формулируя запрос в системе вроде ChatGPT, вернуть эти данные назад уже невозможно. Таким образом, вы непреднамеренно передаете информацию третьей стороне. Если она относится к защищенной или секретной категории, юридическая ответственность ложится непосредственно на пользователя.

Особенно если в таких данных содержится персональная информация людей или иные конфиденциальные сведения, использование подобных ИИ-систем категорически не рекомендуется. В то же время, организации должны понимать, что люди уже привыкли к удобным и быстрым цифровым инструментам. Поэтому наличие внутри организации безопасных ИИ-систем позволит сотрудникам работать эффективнее и одновременно снизит риск утечек данных за счет отказа от внешних платформ.

Искусственный интеллект невероятно повышает продуктивность. Но отказ от безопасности ради скорости - самая дорогая ошибка.