Sylabus przedmiotu
Wykład monograficzny - AI w cyberbezpieczeństwie
| Forma zajęć | Atrybuty formy | Godziny w semestrze | Godziny w tygodniu | Zaliczenie | Kompetencje | Waga | ||
|---|---|---|---|---|---|---|---|---|
| stacjonarne | niestacjonarne | stacjonarne | niestacjonarne | |||||
| Wykład | Forma mieszana, Kontakt bezpośredni: 100% | 30 | 18 | 2 | 1 | Zaliczenie na ocenę |
|
(100%)1 przez 1 |
| Forma aktywności | Liczba godzin - stac. | Liczba godzin - niestac. |
|---|---|---|
| Przygotowanie do zajęć | 5 | 11 |
| Przygotowanie do egzaminu / zaliczenia | 15 | 21 |
| SUMA | 20 | 32 |
Cele przedmiotu:
Celem przedmiotu jest przedstawienie najnowszych metodologii projektowania, modelowania i implementacji systemów współbieżnych i rozproszonych oraz systemów czasu rzeczywistego z zastosowaniem nowoczesnych środowisk programistycznych i sprzętowych.
Wymagania wstępne:
Cyberbezpieczeństwo
Zakres tematyczny
| Rodzaj zajęć | Opis | Godz. stac. | Godz. niestac. |
|---|---|---|---|
| Wykład | Ewolucja złośliwego oprogramowania: AI „Just-in-Time” i polimorficzny malware. Wykład poświęcony nowej fazie operacyjnej zagrożeń, w której malware (np. rodziny PROMPTFLUX czy PROMPTSTEAL) wykorzystuje API modeli językowych do dynamicznej zmiany swojego kodu w czasie wykonywania zadania, co pozwala na skuteczne omijanie tradycyjnych systemów detekcji | 3 | 1 |
| Wykład | Sztuczna inteligencja w służbie obrońców: Automatyzacja SOC i inteligentny SIEM. Omówienie praktycznych scenariuszy wykorzystania uczenia maszynowego do redukcji szumu alertowego, korelacji zdarzeń oraz analizy behawioralnej użytkowników i jednostek (UEBA) w celu skrócenia czasu wykrywania (MTTD) i reakcji (MTTR) na incydenty | 4 | 3 |
| Wykład | Zagrożenia ze strony Deepfake: Techniki manipulacji tożsamością i metody ich wykrywania. Analiza zagrożeń związanych z realistycznym podrabianiem obrazu, głosu i wideo w celach socjotechnicznych (np. „scamy na wnuczka” czy wirtualne porwania) oraz prezentacja modeli detekcji działających lokalnie w celu ochrony prywatności danych | 4 | 3 |
| Wykład | Ataki na modele językowe: Prompt Injection, Prompt Puppetry i Jailbreaking. Szczegółowe omówienie technik obchodzenia zabezpieczeń LLM, takich jak manipulacja kontekstem poprzez odgrywanie ról (np. „na studenta” lub „uczestnika CTF”), które pozwalają zmusić modele do generowania szkodliwych treści lub ujawniania poufnych danych | 4 | 3 |
| Wykład | Autonomiczni agenci AI w operacjach cyberwywiadowczych. Studium przypadku kampanii cyberszpiegowskich, w których AI (np. zmanipulowany model Claude Code) pełni funkcję samodzielnego agenta wykonującego większość zadań operacyjnych – od skanowania infrastruktury po eksfiltrację danych – bez ciągłej interwencji człowieka | 4 | 2 |
| Wykład | Regulacje prawne i standardy bezpieczeństwa AI: Unijny AI Act i dyrektywa NIS2. Analiza obowiązków prawnych nakładanych na systemy AI wysokiego ryzyka wspierające infrastrukturę krytyczną, w tym wymogów dotyczących nadzoru człowieka, przejrzystości działania, zarządzania ryzykiem oraz kontroli jakości danych treningowych | 4 | 3 |
| Wykład | Etyka i problem „czarnej skrzynki” w zautomatyzowanych systemach cyberbezpieczeństwa. Debata nad moralną odpowiedzialnością za decyzje podejmowane przez algorytmy (np. w pojazdach autonomicznych), problemem stronniczości algorytmicznej (bias) oraz potrzebą wdrażania rozwiązań typu Explainable AI (XAI), które czynią procesy decyzyjne przejrzystymi dla człowieka | 4 | 2 |
| Wykład | Ochrona integralności systemów AI: Zatruwanie danych i kradzież modeli. Wykład dotyczący bezpieczeństwa samej infrastruktury AI, skupiający się na zagrożeniach takich jak „zatruwanie danych” (data poisoning) w celu manipulacji wynikami modelu oraz ataki sieciowe mające na celu kradzież własności intelektualnej zawartej w wypracowanych modelach | 3 | 1 |
Metody dydaktyczne
| Opis |
|---|
| Wykład problemowy |
| Wykład konwencjonalny |
| Metoda przypadków |
| Dyskusja |
| Demonstracja |
| Praca w środowisku wirtualnym |
Warunki zaliczenia:
Ocena końcowa z przedmiotu stanowi średnią arytmetyczną wszystkich form zajęć. Każda z form zajęć musi być oceniona pozytywnie. Szczegółowe informacje zostaną przekazane na pierwszych zajęciach podczas prezentacji sylabusa.
Literatura podstawowa: Dariusz Gołębiowski,TWOJE BEZPIECZEŃSTWO W ŚWIECIE CYBER I AI Część 2 Cyberhigiena 2025,2025,978-83-68360-05-9,helion,,,book,poswojsku.pl,,,,,,, Gołębiowski Dariusz,TWOJE BEZPIECZEŃSTWO W ŚWIECIE CYBER I AI Część 1 Wprowadzenie 2025,2025,978-83-68360-04-2,helion,,,book,poswojsku.pl,,,,,,,
Literatura uzupełniająca:
| Symbole | Opis efektu | Metoda weryfikacji | Forma zajęć |
|---|---|---|---|
| Potrafi wskazać i scharakteryzować tendencje rozwojowe w zakresie wybranej specjalności studiów i dyscypliny informatyka |
|
|
|
| Potrafi scharakteryzować nowoczesne światowe rozwiązania stosowane w dyscyplinie informatyka oraz w zakresie specjalności cyberbezpieczeństwo |
|
|
|
| Słucha ze zrozumieniem wykładu w języku angielskim |
|
|
|
| Potrafi scharakteryzować trendy rozwojowe odnoszące się do zastosowań AI w cyberbezpieczeństwie |
|
|