Robot, pilot i haker wchodzą do baru.

Kto wychodzi? Chyba wkrótce się dowiemy.

Jak testujesz sztuczną inteligencję w locie? Jak upewnić się, że robot latający samolotem nie może zostać zhakowany?

Sztuczna inteligencja (AI), cyberbezpieczeństwo i lotnictwo to dziedziny, z którymi większość ludzi ma do czynienia w życiu codziennym. Prawdopodobnie prosiłeś dziś o coś Siri, Alexę lub „Hej Google”; zalogowany gdzieś za pomocą hasła; i otrzymałeś coś na wyciągnięcie ręki od dużego sprzedawcy internetowego. Te pojedyncze manifestacje oddziałują na siebie na różne sposoby. Chociaż większość ludzi może nie brać pod uwagę skrzyżowania tych trzech dziedzin, ich synergia jest złożona. Sztuczna inteligencja może zrewolucjonizować branżę lotniczą, czyniąc ją bezpieczniejszą, wydajniejszą i bardziej opłacalną. Wiąże się to jednak również z nowymi zagrożeniami dla bezpieczeństwa cybernetycznego, którymi należy się zająć. Co zaskakujące, niektóre z tych zagrożeń można naprawić za pomocą narzędzi AI.

Cyberbezpieczeństwo dla lotnictwa wydaje się być tematem, który pojawia się tylko wtedy, gdy YouTuberzy twierdzą, że włamują się do silników za pośrednictwem systemów rozrywki pokładowej. Prawdziwe wyzwania są jednak znaczące. Wyobraź sobie, że autopilot, nadzór radarowy lub informacje o ruchu lotniczym są zakłócane lub manipulowane. Zbliżając się do dużego lotniska, cyberatak miałby katastrofalne skutki.

Podobnie sztuczna inteligencja w lotnictwie to coś, o czym dopiero zaczynamy dyskutować. Od lat mamy „lekką sztuczną inteligencję” w lotnictwie wojskowym, między innymi do optymalizacji toru lotu, misji i celu. Ale wyobraź sobie operacje nad wodą z jednym pilotem, w których „rezydentna” sztuczna inteligencja (część autopilota lub systemu zarządzania lotem) może nie tylko latać samolotem (co robimy od dziesięcioleci), ale automatycznie zarządzać lotem w przypadku niesprzyjającej pogody, awarii, ruchu drogowego lub innych zdarzeń. Technologia istnieje już teraz, aby to umożliwić. Jedynymi przeszkodami są polityka i akceptacja społeczna.

W miarę postępów w zakresie sztucznej inteligencji w lotnictwie będziemy musieli lepiej zrozumieć podstawy cyberbezpieczeństwa. Jednym z takich obszarów jest temat technologii operacyjnych i informacyjnych. Jedną z podstawowych różnic między technologią operacyjną (OT) a technologią informacyjną (IT) jest to, że systemy OT są przeznaczone do sterowania i monitorowania procesów fizycznych, podczas gdy systemy informatyczne zarządzają informacją. W branży lotniczej systemy OT obejmują systemy sterowania lotem, systemy zarządzania ruchem lotniczym i systemy obsługi technicznej statków powietrznych, podczas gdy systemy IT obejmują systemy rezerwacji pasażerów, systemy planowania lotów i systemy bezpieczeństwa na lotniskach. Chociaż należy zająć się obydwoma aspektami, OT stanowi większe wyzwanie. Starsze systemy i architektury lotnicze rzadko uwzględniały bezpieczeństwo IT w ich pierwotnym projekcie

Zarówno systemy OT, jak i IT mają kluczowe znaczenie dla branży lotniczej, ale mają różne wymagania dotyczące bezpieczeństwa. Systemy OT są zwykle zaprojektowane tak, aby były odporne i działały w czasie rzeczywistym, dzięki czemu mogą reagować na zmiany w procesach fizycznych. Często są bardziej narażeni na ataki cybernetyczne, ponieważ rutynowo używają starszego sprzętu bezpośrednio podłączonego do procesów fizycznych. Natomiast systemy informatyczne są zaprojektowane tak, aby były elastyczne i przetwarzały duże ilości danych, ale zasadniczo są bardziej narażone na ryzyko, ponieważ są połączone z Internetem.

Skrzyżowanie sztucznej inteligencji, cyberbezpieczeństwa i lotnictwa rodzi ważne pytania dotyczące tego, jak oceniać te systemy i jak zapewnić odpowiedzialne korzystanie z technologii sztucznej inteligencji. Jednym z największych wyzwań jest zapewnienie solidności i niezawodności algorytmów sztucznej inteligencji. Oznacza to, że powinny być zaprojektowane tak, aby działały bezpiecznie oraz wykrywały anomalie i zagrożenia bezpieczeństwa i reagowały na nie.

W jaki sposób zapewniamy, że systemy sztucznej inteligencji mogą działać w złożonym i dynamicznym środowisku przemysłu lotniczego? Wymaga to, aby algorytmy sztucznej inteligencji były w stanie dostosować się do zmieniających się warunków i uwzględniać wiele źródeł danych i informacji. Na przykład system kontroli ruchu lotniczego oparty na sztucznej inteligencji musi być w stanie przetwarzać w czasie rzeczywistym informacje o pogodzie, trasach lotu i osiągach samolotu. Testowanie tych systemów wymaga zatem podkreślenia elastyczności i prawidłowych wyników.

Więc… jak testujemy sztuczną inteligencję w locie? To jest nowa granica. Od jakiegoś czasu wiemy, jak testować systemy autonomiczne. Przeciętny specjalista od testów w locie wie, jak zbudować eksperyment, aby przewidzieć i zweryfikować zachowanie autopilotów, systemów naprowadzania i innych heurystyk misji. Sztuczna inteligencja stanowi to wyzwanie, ale o rząd wielkości bardziej złożone. Gdy dodamy do tego wymagania dotyczące kontynuowania misji pomimo ataku informacyjnego, zobaczymy, jak poważne wyzwanie może stać się testowanie i certyfikacja systemów lotniczych opartych na sztucznej inteligencji.

Skrzyżowanie sztucznej inteligencji, cyberbezpieczeństwa i lotnictwa to obszar, który będzie wymagał znacznej uwagi i inwestycji. Sztuczna inteligencja może zrewolucjonizować branżę lotniczą, ale niesie ze sobą również nowe wyzwania, którym należy sprostać, przetestować je i zweryfikować. Nikt nie spodziewa się, że ChatGPT lub Bard będą latać samolotem w najbliższym czasie. A jednak nikt nie spodziewał się, że te chatboty zmienią edukację, kreatywne pisanie, kodowanie i nie tylko w ciągu zaledwie kilku miesięcy. Zapewnienie, że systemy sztucznej inteligencji są bezpieczne, godne zaufania i zdolne do działania w złożonych i dynamicznych środowiskach – w tym w spornej cyberprzestrzeni – będzie miało kluczowe znaczenie dla zapewnienia długoterminowego sukcesu branży lotniczej.

Noel Zamot jest byłym dowódcą elitarnej Szkoły Pilotów Testowych USAF, wielokrotnie nagradzanym autorem i byłym dyrektorem ds. rozwoju gospodarczego. Sześć lat temu założył firmę zajmującą się analizą systemów lotniczych pod kątem zagrożeń cyberbezpieczeństwa. Wszystkie jego ostrzeżenia typu „a nie mówiłem” wracają teraz do domu. Zgadzać się? Nie zgadzać się? Napisz do niego na adres [email protected]