Określenie „sztuczna inteligencja” jest w ostatnim czasie odmieniane przez wszystkie przypadki, a często wręcz nadużywane. Należy chyba jednak przyjąć, że AI zadomowiła się w naszej rzeczywistości już na dobre i będzie miała szerokie zastosowanie w biznesie i życiu prywatnym. Dlatego tak ważne jest, żeby stosować tę technologię w sposób odpowiedzialny, to znaczy budować skuteczne, bezpieczne, godne zaufania, przejrzyste i odpowiedzialne modele AI. Po to właśnie powstała norma ISO/IEC 42001 dotycząca systemu zarządzania AI.
Pojęcie „Trustworthy AI” stało się tematem licznych konferencji, jak na przykład Europejski Kongres w Katowicach, gdzie podczas wielu paneli podkreślano znaczenie AI w gospodarce światowej i omawiano odpowiedzialne podejście do tematu rozwoju tej technologii. Ministerstwo Cyfryzacji po przeprowadzeniu prekonsultacji do projektowanej implementacji Aktu o sztucznej inteligencji (AI Act) podjęło wstępną decyzję o stworzeniu Komisji Nadzoru Sztucznej Inteligencji (na wzór KNF) oraz Funduszu AI, który ma wspierać innowatorów i naukowców.
„Trustworthy AI” jest bardzo istotne również dla firmy SGS, dlatego we współpracy z naszym partnerem – firmą Microsoft – zorganizowaliśmy wyjątkową konferencję poświęconą temu tematowi i rozpoczęliśmy pierwsze szkolenia.
„Zarządzanie sztuczną inteligencją – norma ISO/IEC 42001 w praktyce” - relacja z konferencji
Konferencja „Zarządzanie sztuczną inteligencją – norma ISO/IEC 42001 w praktyce”, zorganizowana przez SGS Polska i Microsoft Polska odbyła się 10 kwietnia 2024 r. w Warszawie. Ideą spotkania było pogłębienie wiedzy na temat wyzwań związanych ze sztuczną inteligencją oraz podkreślenie znaczenia przestrzegania przepisów i wdrożenia ram zarządzania sztuczną inteligencją.
W konferencji wzięło udział ponad 100 osób, a zainteresowanie było tak duże, że już w pierwszym dniu po ogłoszeniu zapisów wyczerpały się dostępne miejsca. Wśród naszych gości znaleźli się przedstawiciele instytucji rządowych, agencji, uczelni wyższych, dużego i małego biznesu.
Przybyłych do siedziby Microsoft w Warszawie gości powitali Michał Jaworski, Dyrektor ds. Strategii Technologicznej i Członek Zarządu Microsoft Polska oraz Michał Cichocki, Deputy of Business Manager & Sales and Development Manager w SGS Polska.
Jakie oczekiwania i obawy budzi sztuczna inteligencja?
Już na samym początku uczestnicy zostali włączeni do dyskusji i odpowiedzieli na dwa istotne pytania, które ukierunkowały dalszą dyskusję. Pytania dotyczyły obaw i oczekiwań w odniesieniu do sztucznej inteligencji.
Wśród licznych oczekiwań, najczęściej wskazywanymi w odpowiedziach były automatyzacja, podniesienie produktywności oraz przyspieszenie i ułatwienie pracy, co wpływa na oszczędność czasu. Jednocześnie jednak uczestnicy wymienili szereg obaw jakie maja w związku z AI. Wśród odpowiedzi pojawiły się głównie halucynacje AI, dezinformacja, brak kontroli oraz kwestie ochrony czy wycieków danych.
Idealną odpowiedzią na te wnioski były wystąpienia naszych prelegentów, w tym późniejsza prezentacja produktów Microsoft.
AI – stan legislacji i potrzeba certyfikacji procesów z punktu widzenia europejskich spółek
Jako pierwszy wystąpił Piotr Mieczkowski, Dyrektor Zarządzający Fundacji DigitalPoland, Członek Zarządu European AI Forum AIBSL w Belgii, a także Ekspert ds. Polityk i Strategii oraz Doradca Społeczny w Ministerstwie Cyfryzacji.
Prelegent zapoznał uczestników z nowym rozporządzeniem UE w sprawie sztucznej inteligencji (AIA / AI Act). Rozporządzenie to zostało po długim okresie prac przyjęte przez Parlament Europejski 13 marca 2024 roku. Jak podkreślił Piotr Mieczkowski, będzie ono miało znaczący wpływ na organizacje rozwijające lub wykorzystujące sztuczną inteligencję, zarówno w Unii Europejskiej, jak i poza nią.
Pan Piotr omówił systemy AI wprowadzone przez AIA, takie jak systemy zakazane, systemy wysokiego ryzyka (HRAIS) czy systemy generalnego wykorzystania (GPAI). Przedstawił też wymagania i obowiązki oraz możliwe wysokie kary przewidziane przez AIA zależnie od zastosowanej technologii AI, przypadku użycia i roli operatora.
Na koniec ekspert wskazał normę ISO/IEC 42001 dotyczącą systemu zarządzania AI oraz jej certyfikację jako narzędzie mogące pomóc organizacjom w sprostaniu wymaganiom AIA.
ISO/IEC 42001 oraz znaczenie certyfikacji dla zapewnienia prawidłowości przetwarzania i zgodności z regulacjami
Uwagę publiczności przejął następnie Willy Fabritius, Global Head of Strategy & Business Development w SGS, wspierany przez ekspertów SGS Polska: Cezarego Zagórskiego (InfoSec Products Development Manager SGS) oraz Michała Cichockiego.
Willy Fabritius omówił nową normę ISO/IEC 42001 oraz znaczenie certyfikacji dla zapewnienia prawidłowości przetwarzania i zgodności z regulacjami. Na wstępie opowiedział, jakie warunki według Unii Europejskiej musi spełniać godna zaufania sztuczna inteligencja („Trustworthy AI”) oraz uszczegółowił wspominane już pojęcie systemów AI wysokiego ryzyka. Następnie wskazał w AI Act wymóg wprowadzenia przez dostawców systemów sztucznej inteligencji o wysokim ryzyku systemu zarządzania jakością zapewniającego zgodność z rozporządzeniem.
Nasz ekspert pokazał uczestnikom, jak system zarzadzania sztuczną inteligencją wg ISO/IEC 42001 wpisuje się w rodzinę norm ISO opartych o Koło Deminga (PDCA) i jak łatwo można rozbudować istniejący już system w organizacji (np. ISMS – system zarządzania bezpieczeństwem informacji wg ISO/IEC 27001). Podkreślił, że norma „mówi o jakości” systemów AI, cytując jedną z definicji: “Quality – fulfilling the expressed and non-expressed customers’ expectations” („Jakość – spełnienie wyrażonych i niewyrażonych oczekiwań klientów”), co w przypadku budowania „odpowiedzialnego” AIMS oraz ryzyk, jakie niesie AI, staje się ogromnie ważnym elementem. Wspomniał też, że jest to norma zarówno dla producentów, dostawców, jak i samych użytkowników AI i ma ona pomóc im odpowiedzialnie realizować swoje cele, spełniając wymogi regulacyjne i oczekiwania zainteresowanych stron.
Omawiając ogólnie wymagania normy, Willy wskazał płynące z niej korzyści. Najważniejsze z nich to zarządzanie ryzykiem i szansami związanymi ze sztuczną inteligencją, potwierdzone certyfikatem niezależnej strony trzeciej, co daje firmom przewagę konkurencyjną, oszczędność kosztów i zwiększoną wydajność, a także zapewnia zgodność z wymogami regulacyjnymi.
Na koniec Willy opowiedział, jak wygląda proces certyfikacji według ISO/IEC 42001 i w jaki sposób SGS może wspierać swoich klientów w spełnieniu wymogów tej normy. Wspomniał też, jak można wykorzystać inne normy ISO wspierające AIMS, takie jak np. ISO/IEC 23894 (Wytyczne do zarządzania ryzkiem AI).
Eksperci SGS podkreślali, że aktualny postęp w rozwoju sztucznej inteligencji oraz konieczność budowania godnych zaufania systemów AI wymaga wielokontekstowego spojrzenia i bez wykorzystania podejścia opartego o systemowe zarządzanie ryzkiem i narzędzi takich jak ISO/IEC 42001 może to być bardzo trudne lub nawet niewykonalne.
AI w praktyce i przyszłość AI
Następnym punktem programu było ciekawe wystąpienie Dyrektora Microsoft Technology Center, Jarosława Sokolnickiego. Opowiedział on krótko o historii Microsoft, która doprowadziła do „ery copilotów” i ewolucji modeli biznesowych oraz potencjale wykorzystania AI do zdobycia przewagi konkurencyjnej.
Pan Jarosław podkreślił, że aktualnie pracownicy oczekują od AI przede wszystkim szybkich odpowiedzi na swoje pytania, a przedsiębiorcy zwiększenia efektywności swoich pracowników. Microsoft ma natomiast rozwiązania dla jednych i drugich.
Po krótkiej przerwie na kawę oraz dzielenie się pierwszymi wrażeniami i przemyśleniami goście konferencji wrócili na salę, by wysłuchać eksperta, który wpierał wdrożenie pierwszego na świecie certyfikowanego systemu zarządzania wg ISO/IEC 42001.
Praktyka zarządzania AI – znaczenie oceny skutków sztucznej inteligencji w normie ISO/IEC 42001
Artur Jabłoński z firmy Human Management Systems przedstawił etapy wdrożenia wymagań nowej normy, wskazując, jakie miejsce zajmuje w tym procesie ocena skutków systemu AI. Według pana Artura podstawą sukcesu jest dobrze zaplanowany proces wdrożenia AIMS, zaangażowany zespół wspierany przez doświadczonego eksperta oraz wykorzystanie odpowiedniej platformy do zarządzania dokumentacją.
Pan Artur wskazał, że ocena skutków systemu AI w całym jego cyklu życia musi odnosić się do wszystkich interesariuszy, a następnie wykorzystać wyniki w procesie oceny ryzyka. Przedstawił szczegółowo wieloetapowe podejście do procesu oceny skutków systemu AI oraz kryteria oceny skutków, takie jak np. zamiar stosowania AI, bezpieczeństwo i niezawodność czy zgodność z prawem. Cały ten proces nie jest prosty, ale z uwagi na fakt, że stanowi kluczowy element skutecznego AIMS, musi być prowadzony regularnie i przy zachowaniu najwyższych standardów.
Na koniec uczestnicy otrzymali jeszcze kilka przydatnych wskazówek, gdzie szukać wytycznych do prowadzenia oceny skutków AI (np. projekt normy ISO/IEC 42005) oraz jakie narzędzia można wykorzystać w tym procesie (np. Microsoft Responsible AI Impact Assessment Template).
Pierwsze globalne AI z certyfikatem ISO/IEC 42001 – case study
Ostatnim, a jednocześnie mocno wyczekiwanym wystąpieniem podczas konferencji, była prezentacja AI Clearing, pionierskiej firmy technologicznej, która jest dumnym posiadaczem pierwszego na świecie, wystawionego przez SGS, certyfikatu ISO/IEC 42001:2023.
Adam Wiśniewski, CTO & Co-Founder i Dariusz Cieśla, VP of Product and Strategy przedstawili model biznesowy oraz nowatorskie rozwiązanie, jakie AI Clearing oferuje firmom sektora budowlanego na całym świecie. Podkreślili, że ich podejście oparte o AI jest wielokrotnie lepsze od tradycyjnego podejścia. Pan Adam omówił, na czym polega unikalność ich modelu AI, zdradzając szczegóły całego procesu, od gromadzenia danych do wydania modelu AI.
W dalszej części wystąpienia prelegenci wyjaśnili, dlaczego ich firma podeszła do certyfikacji ISO/IEC 42001 oraz jak w praktyce wyglądało wdrożenie systemu w AI Clearing. Podzielili się też swoimi wnioskami na temat korzyści płynących z posiadania takiego certyfikatu.
Jak podkreślili przedstawiciele AI Clearing, firma aktywnie współtworzy i przestrzega standardów branżowych, przyczyniając się do ustanowienia najlepszych praktyk, dlatego stara się wyprzedzać zmieniające się przepisy i demonstrować swoje zaangażowanie w ich przestrzeganiu. „Kiedy klienci szukają jasności co do doskonałości sztucznej inteligencji, nasz certyfikat (ISO/IEC 42001) służy jako latarnia morska, pokazując, co naprawdę oznacza doskonała sztuczna inteligencja”.
Bardzo mocno wybrzmiało stwierdzenie, by nie czekać na prawne wymagania, ale już dziś zacząć zapewniać swoich klientów, że działamy zgodnie ze najwyższymi standardami w szeroko rozumianym obszarze AI.
Pod koniec wystąpienia, na naszych prelegentów czekała niespodzianka. Przy aplauzie uczestników konferencji, został im uroczyście wręczony certyfikat ozdobny ISO/IEC 42001:2023.
Panel dyskusyjny, konkurs i zwiedzanie Alei Innowacji Microsoft
Pod koniec konferencji odbył się panel dyskusyjny poprowadzony przez Dominikę Bucholc, AI & Strategy Expert, podczas którego prelegenci zebrali wnioski i podsumowali, dlaczego ISO/IEC 42001 jest kluczem do odpowiedzialnej AI oraz podstawą do oceny zgodności z AI Act.
Adam Wiśniewski i Artur Jabłoński opowiedzieli o największych wyzwaniach podczas wdrożenia ISO/IEC 42001. Cezary Zagórski podkreślał znaczenie szerokiego spojrzenia na ocenę łańcuchów dostaw, czyli wiarygodność naszych dostawców, a Michał Jaworski z Microsoft Polska, wskazując inwestycje w „zieloną energię”, pokazywał, jak AI może przyczynić się do zmniejszenia śladu węglowego.
Wszyscy eksperci starali się odpowiedzieć na pytanie, czy AI Act nie zablokuje rozwoju AI w Europie i pomimo różnych opinii wszyscy zachowali optymizm.
Na pożegnanie, nie zabrakło też niespodzianki dla gości, jaką był konkurs z nagrodami. Po wyrównanej walce na szybkość i poprawność odpowiedzi, zaproszenie do bezpłatnego uczestnictwa w szkoleniu ISO/IEC 42001 wygrała pani Magda. Jeszcze raz serdecznie gratulujemy!
Chętni uczestnicy konferencji mieli również okazję zwiedzić Aleję Innowacji Microsoft Technology Center, gdzie prezentowane są najnowocześniejsze rozwiązania Microsoft oraz partnerów Microsoft mające zastosowanie w różnych branżach.
Podsumowanie
Konferencja spotkała się z bardzo pozytywnym odbiorem. W ankietach pokonferencyjnych uczestnicy zwrócili uwagę na "merytoryczne wystąpienia i inspirujące prelekcje gości" oraz "różnorodność tematów". Jako silną stronę konferencji zauważono "cały storyteling prezentacji od regulacji, przez parametry normy, a na koniec prezentację realnego wdrożenia."
Poproszony o krótkie podsumowanie tematu konferencji Willy Fabritius powiedział: "Wraz z pojawieniem się coraz większej liczby globalnych przepisów dotyczących sztucznej inteligencji, każda organizacja opracowująca, wdrażająca lub wykorzystująca systemy sztucznej inteligencji musi przeanalizować, w jaki sposób spełnić wymagania. Jest na to jeden sposób, który wskazywany był przez wszystkich prelegentów podczas konferencji – solidny system zarządzania sztuczną inteligencją (AIMS) oparty na międzynarodowej normie ISO/IEC 42001. Norma ta została opublikowana dopiero pod koniec 2023 roku i stanowi doskonałe ramy dla organizacji o dowolnej wielkości i złożoności w zakresie wdrażania systemu zarządzania. Certyfikowany AIMS będzie doskonałym narzędziem ograniczania ryzyka i zapewni partnerom biznesowym organizacji pewność, że posiada ona skuteczny program zarządzania odpowiadający na wyzwania związane z wdrażaniem i użytkowaniem systemów sztucznej inteligencji."
Michał Jaworski natomiast zauważył, że: „Uzyskanie certyfikatów zgodności z normami było do niedawna potwierdzeniem wobec kontrahentów wysokiej dbałości o procesy lub twardym obowiązkiem wynikającym z przepisów. W czasach, kiedy większość regulacji wymaga każdorazowo oceny ryzyka certyfikacja staje się narzędziem ułatwiającym taką weryfikację. Certyfikacja w zarządzaniu systemami sztucznej inteligencji staje się remedium, kiedy z jednej strony zbliża się wdrożenie europejskiego AI Act, a z drugiej mamy liczne obawy przed skutkami stosowania takich systemów. Staje się potwierdzeniem prawidłowości przetwarzania i odpowiada na wątpliwości i pytania."
Aby dowiedzieć się więcej na temat certyfikacji systemu zarządzania sztuczną inteligencją wg ISO/IEC 42001, skontaktuj się z nami już dziś.
O SGS
Jesteśmy SGS – światowym liderem w dziedzinie badań, inspekcji i certyfikacji. Jesteśmy uznawani za globalny punkt odniesienia w zakresie zrównoważonego rozwoju, jakości oraz rzetelności. Naszych 99 600 pracowników obsługuje sieć 2 600 biur i laboratoriów na całym świecie.
