Najbardziej wiarygodne źródło danych o sztucznej inteligencji

Najbardziej wiarygodne źródło danych o sztucznej inteligencji

Media społecznościowe zrewolucjonizowały nie tylko zwyczaje, sposób komunikowania, uzewnętrzniania emocji, ale także odcisnęły swe piętno na języku, którym się posługujemy.

Zintensyfikowały obecne, już od jakiegoś czasu, zjawisko amerykanizacji języka, jak i utrwaliły trwający już proces makdonaldyzacji życia, ale to temat na inną opowieść. Nie dziwią już wtrącenia, naleciałości z języka angielskiego. Przykładem może być tutaj, tak popularny wśród dziennikarzy i polityków – serwis Twitter, w którym to najbardziej aktualne, cieszące się największym zainteresowaniem w danej chwili tematy, określane są mianem „trending topic”. Sztuczna inteligencja, a w szczególności jej emanacja dla gawiedzi jaką jest słynny już Chat GPT, niewątpliwie może zostać uznana za wspomniany „trending topic”, nieschodzący z czołowych miejsc zainteresowania wśród internautów. Na innym portalu – tym razem odpowiedzialnym za integrowanie społeczności profesjonalistów, nawiązywanie kontaktów i relacji biznesowych, temat ten stał się przedmiotem wielu analiz, tekstów, a ostatnimi czasy nawet i ikonografik, które w zamyśle z domieszką ironii miały odnosić się do „wysypu specjalistów z zakresu AI”, których to drastyczny przyrost ma testować możliwości serwerów, na których postawiony został Linkedin.

Niejako podążając za trendami, a także w następstwie ostatniej konferencji Pulsu Biznesu poświęconej pracy działów compliance oraz wykorzystania przez nie rozwiązań na pograniczu automatyzacji i robotyzacji, które stanowią pewnego rodzaju emanację sztucznej inteligencji, zagłębiając się w tę tematykę natrafiłem na raport zatytułowany „Artificial Intelligence Index Report 2023” opracowany przez Uniwersytet Stanforda. Jak wskazano na jego wstępie „raport aspiruje do miana najbardziej wiarygodnego źródła danych o AI na świecie”. Brzmi obiecująco, stawia wysoko poprzeczkę przed jego autorami, ale także zwiastuje ciekawą podróż przez meandry sztucznej inteligencji, nowoczesnej technologii i innych fantazyjnie brzmiących rozwiązań, które w najbliższych miesiącach i latach mają zrewolucjonizować biznes, rynek pracy i któż wie co jeszcze.

Podążając za schematem przyjętym przez autorów raportu, subiektywne kluczowe przesłanki z niego płynące pozwoliłem sobie podzielić wedle przyjętej chronologii:

  1. Badania i rozwój
    • Stany Zjednoczone i Chiny miały największą liczbę współpracy między krajami w zakresie AI w latach 2010-2021, choć tempo współpracy spadło. Liczba współpracy w zakresie badań nad AI współpracy badawczej między Stanami Zjednoczonymi a Chinami wzrosła mniej więcej 4-krotnie od 2010 r. i była 2,5 raza większa niż w przypadku najbliższej pary państw – Wielkiej Brytanii i Chin.
    • Badania nad sztuczną inteligencją rosną we wszystkich dziedzinach. Całkowita liczba publikacji na temat AI wzrosła ponad podwoiła się od 2010 roku. Konkretne tematy AI, które nadal dominują w badaniach, to rozpoznawanie wzorców, uczenie maszynowe i wizja komputerowa. Rozpoznawanie wzorców, uczenie maszynowe i widzenie komputerowe.
    • Chiny nadal są liderem pod względem łącznej liczby publikacji w czasopismach, na konferencjach i w repozytoriach dotyczących AI.
    • Stany Zjednoczone nadal prowadzą pod względem liczby cytatów z konferencji i repozytoriów dotyczących AI, ale ich przewaga powoli się zmniejsza.
    • Nadal większość światowych dużych modeli językowych i multimodalnych (54% w 2022 r.) jest wytwarzana przez instytucje amerykańskie.
    • Przemysł wyprzedza środowisko akademickie. Do 2014 roku większość znaczących modeli uczenia maszynowego była wypuszczane przez środowiska akademickie. Od tego czasu przemysł przejął inicjatywę. W 2022 r. istniały 32 znaczące modele uczenia maszynowego wyprodukowane przez przemysł w porównaniu do zaledwie trzech wyprodukowanych przez środowiska akademickie. Tworzenie najnowocześniejszych systemów AI coraz częściej wymaga dużych ilości danych, mocy obliczeniowej i pieniędzy – zasobów, które podmioty przemysłowe z natury rzeczy posiadają w większych ilościach niż w porównaniu z organizacjami non-profit i środowiskiem akademickim.
    • Duże modele językowe są coraz większe i droższe. GPT-2, wydany w 2019 r. uważany przez wielu za pierwszy duży model językowy, miał 1,5 miliarda parametrów i kosztował szacunkowo 50 000 USD, aby wyszkolić.
  2. Parametry i wydajność technologii:
    • Sztuczna inteligencja nadal osiąga najlepsze wyniki, ale poprawa z roku na rok w wielu benchmarkach jest nadal marginalna. Ponadto, szybkość, z jaką osiąga się nasycenie benchmarków, jest coraz większa.
    • Generatywna AI przebija się do świadomości publicznej. W 2022 roku ukazały się modele tekst-obraz jak DALL-E 2 i Stable Diffusion, systemy tekst-wideo jak Make-A-Video i chatboty jak ChatGPT. Mimo to, systemy te mogą być podatne na nieprawidłowości, pewnie podając niespójne lub lub nieprawdziwe odpowiedzi, co sprawia, że trudno jest polegać na nich w krytycznych zastosowaniach.
    • Systemy AI stają się bardziej elastyczne. Tradycyjnie systemy AI dobrze radziły sobie z wąskimi zadaniami ale nie radziły sobie z szerszymi zadaniami.
    • Niedawno wydane modele podważają ten trend; BeiT-3, BeiT-3, PaLI i Gato to pojedyncze systemy AI, które coraz lepiej radzą sobie z wieloma zadaniami.
    • Zdolne modele językowe wciąż mają problemy z rozumowaniem. Modele językowe nadal poprawiają swoje możliwości generatywne, ale nowe badania sugerują, że wciąż mają problemy z kompleksowym zadaniami planowania.
    • AI zarówno pomaga, jak i szkodzi środowisku. Nowe badania sugerują, że systemy AI mogą mieć poważny wpływ na środowisko. Według Luccioni et al., 2022, trening BLOOM wyemitował 25 razy więcej węgla niż pojedynczy podróżnik samolotem podczas podróży w jedną stronę z Nowego Jorku do San Francisco.
    • Nowe modele uczenia się przez wzmocnienie, takie jak BCOOLER, pokazują, że systemy AI mogą być wykorzystywane do optymalizacji zużycia energii.
      Najlepszy na świecie nowy naukowiec … AI? Modele AI zaczynają przyspieszać postęp naukowy i w 2022 roku zostały wykorzystane do wspomagania fuzji wodoru, poprawy efektywności manipulacji matrycą oraz generowania nowych przeciwciał.
    • AI rozwija sama siebie. Nvidia wykorzystała agenta uczenia wzmacniającego AI do ulepszenia projektu chipów, które zasilają systemy AI. Podobnie Google wykorzystał niedawno jeden ze swoich modeli językowych, PaLM, aby zasugerować sposoby ulepszenia tego samego modelu. Samodoskonalące się uczenie AI przyspieszy rozwój AI.
  3. Etyka AI:
    • Przybyło modeli generatywnych, a wraz z nimi problemów etycznych. W 2022 roku, modele generatywne stały się częścią zeitgeist. Modele te są zdolne, ale wiążą się z nimi także problemy etyczne. Generatory tekstów i obrazów są rutynowo stronnicze pod względem płci, a chatboty takie jak ChatGPT mogą być mogą być podstępnie wykorzystywane do niecnych celów.
    • Liczba incydentów dotyczących niewłaściwego wykorzystania AI gwałtownie rośnie. Według bazy danych AIAAIC, która śledzi incydenty związane z etycznym nadużyciem AI, liczba incydentów związanych z AI i kontrowersji wzrosła 26 razy od 2012 roku. Niektóre warte uwagi incydenty w 2022 roku obejmowały m.in. deepfake wideo przedstawiające poddającego się prezydenta Ukrainy Wołodymyra Zelenskiego oraz amerykańskie więzienia wykorzystujące technologii monitorowania rozmów na osadzonych. Wzrost ten świadczy zarówno o większym wykorzystaniu technologii AI jak i świadomości możliwości niewłaściwego wykorzystania.
    • Szeroko zakrojona analiza modeli językowych sugeruje, że choć istnieje istnieje wyraźna korelacja między wydajnością a uczciwością, uczciwość i stronniczość mogą być sprzeczne: Język, Modele językowe, które uzyskują lepsze wyniki w niektórych kryteriach sprawiedliwości, mają gorsze wyniki w zakresie uprzedzeń płciowych.
  4. Gospodarka
    • Zapotrzebowanie na umiejętności zawodowe związane z AI rośnie praktycznie w każdym amerykańskim sektorze przemysłowym. W każdym sektorze w Stanach Zjednoczonych, dla którego istnieją dane (z wyjątkiem rolnictwa, leśnictwa, rybołówstwa i łowiectwa), liczba ofert pracy związanych z AI wzrosła średnio z 1,7% w 2021 roku do 1,9% w 2022 roku. Pracodawcy w Stanach Zjednoczonych coraz częściej poszukują m.in. pracowników z umiejętnościami związanymi z AI. Po raz pierwszy w ostatniej dekadzie, rok do roku, prywatne inwestycje w AI spadły. Globalne prywatne inwestycje w AI wyniosły 91,9 mld USD w 2022 r., co stanowiło spadek o 26,7% od 2021 r.
    • Całkowita liczba wydarzeń związanych z finansowaniem AI, a także liczba nowo finansowanych firm AI podobnie spadła. Mimo to, w ciągu ostatniej dekady jako całości, inwestycje w AI znacznie wzrosły. W 2022 roku kwota prywatnych inwestycji w AI była 18 razy większa niż w 2013 roku.
    • Po raz kolejny Stany Zjednoczone przodują w inwestycjach w AI. Stany Zjednoczone prowadziły na świecie pod względem łącznej kwoty prywatnych inwestycji w AI. W 2022 r. zainwestowane w USA 47,4 mld dolarów było mniej więcej 3,5 razy kwota zainwestowana w kolejnym najwyższym kraju, czyli w Chinach (13,4 mld USD). Stany Zjednoczone pozostają również liderem pod względem łącznej liczby nowo finansowanych firm z branży AI, odnotowując 1,9 razy więcej niż Unia Europejska i Wielka Brytania łącznie oraz 3,4 razy więcej niż Chiny.
    • W 2022 r. obszarem zainteresowania AI, w który zainwestowano najwięcej, była medycyna i opieka zdrowotna (6,1 mld dol.). Następnie zarządzanie danymi, przetwarzanie i chmura (5,9 mld USD); oraz Fintech (5,5 mld USD).
    • Jednak, odzwierciedlając szerszy trend w prywatnych inwestycjach w AI, większość obszarów zainteresowania AI odnotowała mniej w 2022 r. niż w 2021 r. W ostatnim roku trzy największe prywatne inwestycje w AI to: (1) wydarzenie finansowania o wartości 2,5 mld USD dla GAC Aion New Energy Automobile, chińskiego producenta m.in. pojazdów elektrycznych; (2) runda finansowania serii E o wartości 1,5 mld USD dla Anduril Industries, amerykańskiej firmy z branży produktów obronnych Anduril Industries, amerykańskiej firmy zajmującej się produktami obronnymi, która tworzy technologie dla agencji wojskowych i ochrony granic; oraz (3) 1,2 miliarda dolarów inwestycja w Celonis, firmę konsultingową zajmującą się danymi biznesowymi z siedzibą w Niemczech.
  5. Edukacja
    • Coraz więcej specjalizacji z zakresu AI. Odsetek nowych absolwentów studiów doktoranckich z zakresu informatyki na amerykańskich uniwersytetów, którzy specjalizowali się w AI, skoczył do 19,1% w 2021 roku, z 14,9% w 2020 roku i 10,2% w 2010 roku.
    • Nowi doktoranci AI coraz częściej kierują się do przemysłu. W 2011 r. mniej więcej taki sam odsetek nowych doktorów AI w przemyśle (40,9%) w porównaniu z uczelniami (41,6%). Od tego czasu jednak większość doktorów AI trafia do przemysłu. W 2021 r. 65,4% doktorów AI podejmie pracę w przemyśle, czyli ponad dwukrotnie więcej niż 28,2%. To ponad dwukrotnie więcej niż 28,2% osób, które podjęły pracę w środowisku akademickim.
    • Zainteresowanie edukacją K-12 w zakresie AI i informatyki rośnie zarówno w Stanach Zjednoczonych, jak i w reszcie świata. W 2021 roku do egzaminów AP z informatyki przystąpiło łącznie 181 040 amerykańskich studentów, co stanowi wzrost o 1,0% w stosunku do roku poprzedniego. Od 2007 roku liczba egzaminów AP computer science exams wzrosła dziewięciokrotnie. Od 2021 roku 11 krajów, w tym Belgia, Chiny i Korea Płd, oficjalnie zatwierdziło i wdrożyło program nauczania informatyki K-12.
  6. Regulacje i ład:
    • Analiza AI Index obejmująca zapisy legislacyjne 127 krajów krajów pokazuje, że liczba projektów ustaw dotyczących sztucznej inteligencji, które zostały przyjęte wzrosła z zaledwie z 1 w 2016 roku do 37 w 2022 roku.
    • Analiza zapisów parlamentarnych dotyczących AI w 81 krajach podobnie pokazuje, że wzmianki o AI w globalnych postępowaniach legislacyjnych wzrosły prawie 6,5 razy od 2016 roku.
    • Stany Zjednoczone przyjęły więcej ustaw o AI niż kiedykolwiek wcześniej. W 2021 r. tylko 2% wszystkich federalnych projektów ustaw w Stanach Zjednoczonych stanowiły te dotyczące AI. Liczba ta wzrosła do 10% w 2022 roku.
    • Podobnie, w ubiegłym roku 35% wszystkich stanowych projektów ustaw dotyczących AI zostało uchwalonych.
    • Jeśli chodzi o AI, decydenci mają wiele przemyśleń. Analiza jakościowa inicjatyw parlamentarnych ujawnia, że decydenci myślą o AI z wielu perspektyw. Na przykład w 2022 r. ustawodawcy w Wielkiej Brytanii Brytanii dyskutowali o zagrożeniach związanych z automatyzacją opartą na AI; ci w Japonii rozważali konieczność ochrony praw człowieka w obliczu AI; a ci w Zambii analizowali możliwość wykorzystania AI do prognozowania pogody.
      Rząd Stanów Zjednoczonych nadal zwiększa wydatki na AI. Od 2017 roku kwota amerykańskich. Rządowych wydatków na kontrakty związane z AI wzrosła mniej więcej 2,5 razy.
    • Świat prawniczy budzi się do AI. W 2022 r. w sądach stanowych i federalnych w Stanach Zjednoczonych toczyło się 110 spraw prawnych związanych z AI.
    • Stanach Zjednoczonych sądach stanowych i federalnych, mniej więcej siedem razy więcej niż w 2016 r. Większość z tych spraw przeprowadzono w Kalifornii, Nowym Jorku i Illinois i dotyczyła kwestii związanych z prawem cywilnym, prawem własności intelektualnej i prawem umów
  7. Różnorodność
    • Północnoamerykańscy studenci studiów licencjackich, magisterskich i doktoranckich w dziedzinie informatyki stają się bardziej zróżnicowani etnicznie. Chociaż biali studenci są nadal najliczniej reprezentowaną grupą etniczną wśród wśród nowych absolwentów studiów licencjackich, magisterskich i doktoranckich, studenci z innych środowisk etnicznych (np. etnicznych (na przykład azjatyckich, latynoskich lub afroamerykańskich) stają się coraz to bardziej reprezentowani. Na przykład w 2011 roku 71,9% nowych absolwentów studiów licencjackich CS było białych. W 2021 roku liczba ta spadła do 46,7%.
    • Nowe doktoraty AI są nadal w przeważającej większości męskie. W 2021 roku 78,7% nowych doktorów AI to mężczyźni.
    • Tylko 21,3% stanowiły kobiety, co stanowi wzrost o 3,2 punktu procentowego w stosunku do roku 2011. Nadal występuje nierównowaga płci w edukacji na wyższym poziomie AI.
    • Kobiety stanowią coraz większy odsetek zatrudnionych na wydziałach CS, CE i informacji.
    • Od 2017 roku odsetek nowych kobiet zatrudnionych na wydziałach CS, CE i informacji wzrósł z. 24,9% do 30,2%. Nadal większość wydziałów CS, CE i informacji na uniwersytetach w Ameryce Północnej to mężczyźni (75.9%).
  8. Opinia publiczna
    • Obywatele Chin należą do osób, które najbardziej pozytywnie oceniają produkty i usługi AI.
    • Amerykanie … nie tak bardzo. W badaniu IPSOS z 2022 roku 78% chińskich respondentów (najwyższy spośród badanych krajów) zgodziło się ze stwierdzeniem, że produkty i usługi wykorzystujące AI mają więcej korzyści niż wad. Po chińskich respondentach, osoby z Arabii Saudyjskiej (76%) i Indii (71%) okazały się być najbardziej pozytywnie nastawione w stosunku do produktów wykorzystujących AI.
    • Tylko 35% badanych Amerykanów (wśród najniższych badanych krajów) zgodziło się, że produkty i usługi wykorzystujące AI mają więcej korzyści niż wad.
    • Mężczyźni mają tendencję do odczuwania bardziej pozytywnych opinii o produktach i usługach AI niż kobiety. Mężczyźni również częściej niż kobiety wierzą, że AI będzie w większości przypadków pomagać, a nie szkodzić.
    • Badanie z 2021 r. przeprowadzone przez Gallup i Lloyd’s Register Foundation podobnie wykazało, że mężczyźni częściej niż kobiety zgadzają się ze stwierdzeniem, że AI w większości przypadków raczej pomoże niż szkodzić ich krajom w ciągu najbliższych 20 lat.
    • Ludzie na całym świecie, a zwłaszcza w Ameryce, pozostają nieprzekonani do autonomicznych samochodów. W globalnym badaniu, tylko 27% respondentów stwierdziło, że czuje się bezpiecznie w samojezdnym samochodzie. Podobnie Pew Research sugeruje, że tylko 26% Amerykanów uważa, że samochody osobowe bez kierowcy są dobrym pomysłem dla społeczeństwa.

Ryzyka i legislacja

Autorzy raportu, co istotne nie podchodzą do tematyki sztucznej inteligencji w sposób bezkrytyczny. Dostrzegają ryzyka wiążące i czyhające za wdrożeniem rozwiązań z jej zakresu na grunt organizacji. Systematyczny przyrost wykorzystania zdobyczy nowych technologii w praktycznie każdym sektorze gospodarki wiązał się będzie z wyzwaniami z zakresu zarządzania ryzykiem prowadzenia działalności.

AI wykorzystanie 1024x544

Źródło: Artificail Intelligence Index Report 2023

Jak widać na załączonym obrazku nie sposób odnaleźć branżę gospodarki, która pozostaje odporna na wykorzystanie sztucznej inteligencji w ramach bieżącej działalności. W przypadku usług prawnych, compliance, jak i świadczenia usług finansowych, a także działalności telekomunikacyjnej zwraca uwagę stosunkowo wysoki udział RPA (robotic proces automation).

Jak wspomniano powyżej wprowadzenie rozwiązań z zakresu automatyzacji, sztucznej inteligencji czy też uczenia maszynowego wiąże się z koniecznością dołożenia należytej staranności w zakresie mitygowania ryzyka. Począwszy od jego prawidłowego rozpoznania (zidentyfikowania), ocenę, jak i wdrożenie działań zaradczych oraz kontrolnych. Zgodnie z danymi przedstawionymi w rapocie cyberbezpieczeństwo, jak i regulatory compliance wskazywane są jako dwa najbardziej istotne ryzyka z punktu widzenia zarządzania organizacją.

ryzyka AI

Źródło: Artificail Intelligence Index Report 2023

Zarządzanie ryzykiem w celu minimalizowania negatywnych skutków z tytuł wykorzystania AI, staje się o tyle istotne, iż zgodnie z danymi opublikowanymi w raporcie liczba incydentów, naruszeń i nieprawidłowości związanych z wykorzystaniem AI wzrosła aż 26 krotnie na przestrzeni ostatniej dekady.

incydenty ai

Źródło: Artificail Intelligence Index Report 2023

Minimalizowanie negatywnych następstw z tytułu wykorzystania sztucznej inteligencji wymaga jednak nie tylko efektywnego systemu zarzadzania ryzykiem, ale także właściwej podstawy do działania oraz standardów regulacyjnych dopuszczających wykorzystanie rozwiązań z zakresu nowych technologii w poszczególnych sektorach.

Polska oczami autorów raportu

Wykorzystanie rozwiązań z zakresu robotyzacji i automatyzacji:

roboty

Źródło: Artificail Intelligence Index Report 2023

Wzrost wykorzystania robotów

wzrost roboty

Źródło: Artificail Intelligence Index Report 2023

Świadomość i opinie nt. AI

opinie o AI

Źródło: Artificail Intelligence Index Report 2023

Podsumowanie

Sztuczna inteligencja to dla mnie wciąż temat nieodgadniony, tak złożony i skomplikowany w swej naturze, wynikającej również z zawiłości meandrów technologii, iż nawet najbardziej kompleksowy i drobiazgowy raport nie może stanowić pełnego źródła wiedzy nt. tego co frapuje mnie najbardziej tj. wpływu nowoczesnych technologii na człowieka. W szczególności jego dalszej roli i wagi na rynku pracy, udziału tak w procesie kreacji, jak i decyzji. W przeciwieństwie do 48% ankietowanych z Polski, którzy stoją na stanowisku, iż „produkty i usługi wykorzystujące sztuczną inteligencję przyniosą więcej pożytku niż szkód”, mam szereg wątpliwości związanych z powszechnym entuzjazmem co do wykorzystania sztucznej inteligencji. W szczególności w odniesieniu do kwestii ochrony prywatności, podatności społeczeństwa na fake news, który w sposób nieunikniony wzmocniony zostanie o deep fake. Istotną rolę ma tutaj do odegrania państwo wraz z jego jednostkami oddelegowanymi do sprawowania nadzoru i kontroli nad poszczególnymi sektorami gospodarki, ale także same przedsiębiorstwa, które chcąc się rozwijać i podążać za nabierającą rozpędu rewolucją technologiczną, będą zmuszone do okiełznania nie tylko nowinek technicznych, ale i ryzyka, które z nimi się wiąże.

[1] Nestor Maslej, Loredana Fattorini, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Helen Ngo, Juan Carlos Niebles, Vanessa Parli, Yoav Shoham, Russell Wald, Jack Clark, and Raymond Perrault, “The AI Index 2023 Annual Report,” AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, Stanford, CA, April 2023.

Niniejsza strona zawiera wyłącznie informacje ogólne i jest oparta na doświadczeniach i badaniach autora. Autor nie udziela w ramach niniejszych publikacji porad biznesowych, prawnych ani innych profesjonalnych porad lub usług. Treści zawarte na niniejszej stronie nie zastępują porad prawnych ani usług. Opinie, stanowiska i spostrzeżenia wyrażone w ramach publikacji na niniejszej stronie nie powinny być również wykorzystywane jako podstawa do jakichkolwiek decyzji lub działań, które mogą mieć wpływ na prowadzoną przez Państwa działalność. Przed podjęciem jakiejkolwiek decyzji lub podjęciem jakichkolwiek działań, które mogą mieć wpływ na działalność Państwa firmy, należy uzyskać opinię wykwalifikowanego doradcy prawnego. Autor nie ponosi odpowiedzialności za jakiekolwiek straty poniesione przez jakąkolwiek osobę lub podmiot polegający na podstępowaniu wedle treści przedstawionych na niniejszej stronie. Wszelki opinie, poglądy i stanowiska przedstawione na niniejszej stronie są prywatnymi poglądami autora, a w związku z tym nie powinny być w jakikolwiek sposób utożsamiane ze stanowiskiem organizacji, które autor reprezentował, reprezentuje obecnie i/lub będzie reprezentował. Cytowanie treści artykułów na niniejszej stronie jest dozwolone z zastrzeżeniem podania źródła cytatu wraz z odnośnikiem prowadzącym do niniejszej strony.

W celu zapewnienia jak najlepszych usług online, ta strona korzysta z plików cookies.

Jeśli korzystasz z naszej strony internetowej, wyrażasz zgodę na używanie naszych plików cookies.