МОЖЛИВОСТІ ШТУЧНОГО ІНТЕЛЕКТУ У ВИЯВЛЕННІ ТА ЗАПОБІГАННІ ФІШИНГУ Й КІБЕРАТАКАМ
DOI:
https://doi.org/10.28925/2663-4023.2025.29.840Ключові слова:
шкідливе програмне забезпечення, генеративний штучний інтелект, кіберзагрози, фішингові атаки, автоматизоване реагуванняАнотація
У статті досліджується подвійна роль штучного інтелекту (ШІ) у сучасному середовищі кібербезпеки, що проявляється як у посиленні кібератак, так і в розробці ефективних механізмів захисту інформаційних систем. Проаналізовано зростаючу складність загроз, зумовлених розвитком технологій машинного навчання, обробки природної мови та генеративного ШІ (GenAI), які дозволяють зловмисникам автоматизувати, підвищувати точність та маскування атак, включаючи фішинг, створення шкідливого програмного забезпечення та використання діпфейків. У цьому дослідженні розглядаються як рішення на основі ШІ можуть покращити кібербезпеку, виявляючи можливі загрози реального часу за допомогою методів машинного навчання, обробки природної мови та розпізнавання образів. Особливу увагу приділено необхідності інтеграції ШІ з контролем з боку людини, підкреслюючи важливість поєднання автоматизованих відповідей з експертним аналізом для ефективного зниження ризиків та адаптації до нових викликів. Розглянуто низку сучасних інструментів та підходів, що застосовуються для здійснення кібератак за допомогою ШІ, зокрема ChatGPT, WormGPT, FraudGPT та Morris 2.0, демонструючи їхні можливості у створенні переконливих шахрайських сценаріїв та адаптивного шкідливого ПЗ. Паралельно вивчено інструментально-технічні рішення на основі ШІ, призначені для виявлення та протидії кіберзагрозам у реальному часі. Описано функціональні можливості таких систем, як Darktrace Antigena, Cylance Endpoint Security, Splunk, Exabeam, IBM QRadar, Microsoft Sentinel, які використовують поведінковий аналіз, машинне навчання та розпізнавання образів для проактивного виявлення аномалій, автоматизованого реагування на інциденти та підвищення загального рівня безпеки. Дослідження демонструє, як ШІ трансформує кібербезпеку, пропонуючи адаптивну та проактивну стратегію для боротьби з виникаючими кіберзагрозами. Вивчаючи сучасне використання ШІ це дослідження демонструє, як він може трансформувати кібербезпеку, пропонуючи проактивну та адаптивну стратегію для боротьби з кібератаками та захисту конфіденційних даних.
Завантаження
Посилання
Zellers R., Holtzman A., Bisk Y., Farhadi A., Choi Y. Defending Against Neural Fake News // Advances in Neural Information Processing Systems (NeurIPS 2019). – 2019. – С. 9054–9065. – URL: https://papers.nips.cc/paper/9106-defending-against-neural-fake-news.pdf
Bostrom N., Yudkowsky E. (eds.) Global Catastrophic Risks. – Oxford: Oxford University Press, 2008. – С. 308–345.
Kenneth R. Feinberg Center for Catastrophic Risk Management and Compensation. Insuring Catastrophic Cyber Risk. – 2025.
Shevlane T. An Early Warning System for Novel AI Risks // Google DeepMind. – 2024. – URL: https://deepmind.google/discover/blog/an-early-warning-system-for-novel-ai-risks/
Scanlon M., Breitinger F., Hargreaves C., Hilgert J.-N., Sheppard J. ChatGPT for Digital Forensic Investigation: The Good, the Bad, and the Unknown // Forensic Science International: Digital Investigation. – 2023. – Vol. 46. – Article 301609.
Tihanyi N., Ferrag M.A., Jain R., Debbah M. CyberMetric: A Benchmark Dataset for Evaluating Large Language Models Knowledge in Cybersecurity. – 2024.
Main Directorate of Intelligence of the Ministry of Defence of Ukraine. Defence Intelligence of Ukraine Thwarted a Provocation by Russian Pranksters Against Baykar Defence CEO Haluk Bayraktar. – URL: https://gur.gov.ua/content/hur-mo-zirvalo-provokatsiiu-rosiiskykh-prankeriv-proty-heneralnoho-dyrektora-kompanii-baykar-defence-khaliuka-bairaktara.html
Begou N., Vinoy J., Duda A., Korczynski M. Exploring the Dark Side of AI: Advanced Phishing Attack Design and Deployment Using ChatGPT. – 2023.
Saha Roy S., Naragam K.V., Nilizadeh S. Generating Phishing Attacks Using ChatGPT. – 2023.
Islam R. Generative AI, Cybersecurity, and Ethics. – George Mason University, Fairfax, Virginia, United States, 2025.
Piconese F., Hakkala A., Virtanen S., Crispo B. Deployment of Next Generation Intrusion Detection Systems against Internal Threats in a Medium-sized Enterprise, 2020.
Šuškalo D., Morić Z., Redžepagić J., Regvart D. Comparative Analysis of IBM QRadar and Wazuh for Security Information and Event Management, 2023.
Happe A., Cito J. Getting Pwn’d by AI: Penetration Testing with Large Language Models
The EU Artificial Intelligence Act. – URL: https://artificialintelligenceact.eu/
Kelley D. WormGPT – The Generative AI Tool Cybercriminals Are Using to Launch Business Email Compromise Attacks // SlashNext. – 2023.
Krishnan R. FraudGPT: The Villain Avatar of ChatGPT // Neterich. – 2023.
Morris Worm II. What Is Known About Computer Viruses in the Age of AI // ForkLog UA. – 2024.
Helping Ethical Hackers Use AI in 50 Lines of Code or Less. – URL: https://hackingbuddy.ai/
What is Cylance Endpoint Security? – URL: https://docs.blackberry.com/en/unified-endpoint-security/blackberry-ues/overview/What-is-Unified-Endpoint-Security
Automate Threat Response in Microsoft Sentinel with Automation Rules. – URL: https://learn.microsoft.com/en-us/azure/sentinel/automate-incident-handling-with-automation-rules?tabs=onboarded
QRadar overview. – URL: https://www.ibm.com/docs/en/qsip/7.5?topic=started-qradar-overview
Dalalah D., Dalalah M. The false positives and false negatives of generative AI detection tools in education and academic research: The case of ChatGPT. – 2023.
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Авторське право (c) 2025 Максиміліан Яковлев, Володимир Любчак

Ця робота ліцензується відповідно до Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.