Sylabus

Sylabus przedmiotu

Wykład monograficzny - AI w cyberbezpieczeństwie

kod: WM-AIECTS: 2semestr: 5język: polski

Wydział: Instytut Nauk Inżynieryjno-Technicznych
Kierunek: Informatyka
Kod przedmiotu: WM-AI
Rodzaj studiów: zawodowe z tyt. inżyniera
Semestr rozpoczęcia: semestr zimowy 2026/2027
Semestr przedmiotu: 5
ECTS: 2
Język nauczania: polski

Forma zajęć Atrybuty formy Godziny w semestrze Godziny w tygodniu Zaliczenie Kompetencje Waga
stacjonarne niestacjonarne stacjonarne niestacjonarne
Wykład Forma mieszana, Kontakt bezpośredni: 100% 30 18 2 1 Zaliczenie na ocenę
(100%)1 przez 1

Forma aktywnościLiczba godzin - stac.Liczba godzin - niestac.
Przygotowanie do zajęć511
Przygotowanie do egzaminu / zaliczenia1521
SUMA2032

Cele przedmiotu:

Celem przedmiotu jest przedstawienie najnowszych metodologii projektowania, modelowania i implementacji systemów współbieżnych i rozproszonych oraz systemów czasu rzeczywistego z zastosowaniem nowoczesnych środowisk programistycznych i sprzętowych.

Wymagania wstępne:

Cyberbezpieczeństwo

Zakres tematyczny

Rodzaj zajęć Opis Godz. stac. Godz. niestac.
Wykład Ewolucja złośliwego oprogramowania: AI „Just-in-Time” i polimorficzny malware. Wykład poświęcony nowej fazie operacyjnej zagrożeń, w której malware (np. rodziny PROMPTFLUX czy PROMPTSTEAL) wykorzystuje API modeli językowych do dynamicznej zmiany swojego kodu w czasie wykonywania zadania, co pozwala na skuteczne omijanie tradycyjnych systemów detekcji 3 1
Wykład Sztuczna inteligencja w służbie obrońców: Automatyzacja SOC i inteligentny SIEM. Omówienie praktycznych scenariuszy wykorzystania uczenia maszynowego do redukcji szumu alertowego, korelacji zdarzeń oraz analizy behawioralnej użytkowników i jednostek (UEBA) w celu skrócenia czasu wykrywania (MTTD) i reakcji (MTTR) na incydenty 4 3
Wykład Zagrożenia ze strony Deepfake: Techniki manipulacji tożsamością i metody ich wykrywania. Analiza zagrożeń związanych z realistycznym podrabianiem obrazu, głosu i wideo w celach socjotechnicznych (np. „scamy na wnuczka” czy wirtualne porwania) oraz prezentacja modeli detekcji działających lokalnie w celu ochrony prywatności danych 4 3
Wykład Ataki na modele językowe: Prompt Injection, Prompt Puppetry i Jailbreaking. Szczegółowe omówienie technik obchodzenia zabezpieczeń LLM, takich jak manipulacja kontekstem poprzez odgrywanie ról (np. „na studenta” lub „uczestnika CTF”), które pozwalają zmusić modele do generowania szkodliwych treści lub ujawniania poufnych danych 4 3
Wykład Autonomiczni agenci AI w operacjach cyberwywiadowczych. Studium przypadku kampanii cyberszpiegowskich, w których AI (np. zmanipulowany model Claude Code) pełni funkcję samodzielnego agenta wykonującego większość zadań operacyjnych – od skanowania infrastruktury po eksfiltrację danych – bez ciągłej interwencji człowieka 4 2
Wykład Regulacje prawne i standardy bezpieczeństwa AI: Unijny AI Act i dyrektywa NIS2. Analiza obowiązków prawnych nakładanych na systemy AI wysokiego ryzyka wspierające infrastrukturę krytyczną, w tym wymogów dotyczących nadzoru człowieka, przejrzystości działania, zarządzania ryzykiem oraz kontroli jakości danych treningowych 4 3
Wykład Etyka i problem „czarnej skrzynki” w zautomatyzowanych systemach cyberbezpieczeństwa. Debata nad moralną odpowiedzialnością za decyzje podejmowane przez algorytmy (np. w pojazdach autonomicznych), problemem stronniczości algorytmicznej (bias) oraz potrzebą wdrażania rozwiązań typu Explainable AI (XAI), które czynią procesy decyzyjne przejrzystymi dla człowieka 4 2
Wykład Ochrona integralności systemów AI: Zatruwanie danych i kradzież modeli. Wykład dotyczący bezpieczeństwa samej infrastruktury AI, skupiający się na zagrożeniach takich jak „zatruwanie danych” (data poisoning) w celu manipulacji wynikami modelu oraz ataki sieciowe mające na celu kradzież własności intelektualnej zawartej w wypracowanych modelach 3 1

Metody dydaktyczne

Opis
Wykład problemowy
Wykład konwencjonalny
Metoda przypadków
Dyskusja
Demonstracja
Praca w środowisku wirtualnym

Warunki zaliczenia:

Ocena końcowa z przedmiotu stanowi średnią arytmetyczną wszystkich form zajęć.

Każda z form zajęć musi być oceniona pozytywnie.

Szczegółowe informacje zostaną przekazane na pierwszych zajęciach podczas prezentacji sylabusa.

Literatura podstawowa: Dariusz Gołębiowski,TWOJE BEZPIECZEŃSTWO W ŚWIECIE CYBER I AI Część 2 Cyberhigiena 2025,2025,978-83-68360-05-9,helion,,,book,poswojsku.pl,,,,,,, Gołębiowski Dariusz,TWOJE BEZPIECZEŃSTWO W ŚWIECIE CYBER I AI Część 1 Wprowadzenie 2025,2025,978-83-68360-04-2,helion,,,book,poswojsku.pl,,,,,,,

Literatura uzupełniająca:

SymboleOpis efektuMetoda weryfikacjiForma zajęć
Potrafi wskazać i scharakteryzować tendencje rozwojowe w zakresie wybranej specjalności studiów i dyscypliny informatyka
  • sprawdzian zaliczeniowy
  • Wykład
Potrafi scharakteryzować nowoczesne światowe rozwiązania stosowane w dyscyplinie informatyka oraz w zakresie specjalności cyberbezpieczeństwo
  • sprawdzian zaliczeniowy
  • Wykład
Słucha ze zrozumieniem wykładu w języku angielskim
  • sprawdzian zaliczeniowy
  • Wykład
Potrafi scharakteryzować trendy rozwojowe odnoszące się do zastosowań AI w cyberbezpieczeństwie
  • sprawdzian zaliczeniowy
  • Wykład

Osoba odpowiedzialna: dr hab. inż. Bartłomiej Sulikowski
Zmodyfikowany przez: SYSTEM