Quiz o XAI i Cyberbezpieczeństwie

Co oznacza skrót XAI?

• eXtra Artificial Intelligence

• eXtreme Antivirus Initiative

• Explainable Artificial Intelligence

• eXperimental Algorithm Integration

Jaki jest główny problem modeli AI określany jako "czarna skrzynka"?

• Zbyt wolne działanie modeli.

• Trudność w zrozumieniu, dlaczego model podjął daną decyzję.

• Konieczność używania bardzo drogiego sprzętu.

• Modele te nie potrafią uczyć się na nowych danych.

Która z tradycyjnych metod detekcji malware jest najbardziej nieskuteczna wobec zupełnie nowych zagrożeń (zero-day)?

• Analiza heurystyczna

• Sandboxing (analiza behawioralna)

• Detekcja oparta na sygnaturach

• Analiza statyczna

Jaki jest główny cel stosowania XAI w cyberbezpieczeństwie?

• Zastąpienie analityków bezpieczeństwa przez AI.

• Pisanie złośliwego oprogramowania.

• Przyspieszenie działania komputerów.

• Zwiększenie zaufania do decyzji AI i ich zrozumienie.

Metody XAI, które można zastosować do dowolnego modelu AI, nazywamy:

• Model-Specific

• Local Explanations

• Model-Agnostic

• Global Explanations

Która technika XAI opiera się na wartościach Shapleya z teorii gier?

• LIME

• Anchors

• Grad-CAM

• SHAP

Co próbują wyjaśnić metody typu "Local Explanations"?

• Ogólne działanie całego modelu AI.

• Przyczynę pojedynczej, konkretnej decyzji modelu.

• Szybkość działania algorytmu.

• Koszt wytrenowania modelu.

Jaką formę ma zazwyczaj wyjaśnienie generowane przez metodę Anchors?

• Listę ważnych cech z wagami.

• Mapę ciepła na obrazie kodu.

• Zrozumiałą regułę typu "JEŚLI ... TO ...".

• Wykres zależności między cechami.

Do czego może służyć identyfikacja najważniejszych cech (feature importance) przez XAI w analizie malware?

• Do zmiany kolorystyki interfejsu programu antywirusowego.

• Do wskazania analitykowi, które fragmenty kodu lub cechy pliku zbadać w pierwszej kolejności.

• Do automatycznego usuwania wszystkich plików

Co to jest "False Positive" (FP) w kontekście detekcji malware?

• Poprawne wykrycie złośliwego oprogramowania.

• Niewykrycie złośliwego oprogramowania, które jest obecne.

• Błędne oznaczenie bezpiecznego pliku jako złośliwy.

• Poprawne oznaczenie bezpiecznego pliku jako bezpieczny.