Polska w obliczu cyfrowego wyÅ cigu zbrojeÅ (2)3kep.sep.com.pl/photo/files/Andrzej...

Andrzej ZybertowiczIII Kongres Elektryki Polskiej

2 kwietnia 2019

Zastrzeżenie

Wypowiadam się jako badacz – socjolog, analityk, nie zaś jako osoba pełniąca

funkcje publiczne

Twitter: @AndZyberto 2

Motto

„What is good for consumers is also good for intelligence services

and cyberattackers”

https://www.nytimes.com/2019/01/26/us/politics/huawei-china-us-5g-technology.html?module=inline


Scenariusz…

W roku 1900 Wielka Brytania – posiadająca tylko 40 mln ludności – kontrolowała imperium panujące nad niemalże 25% ziemi i ludności naszej planety (ok. 1,6 mld)

Czy podobna asymetria – 2,5% ludności Ziemi i 25% zasobów pod kontrolą – może się niebawem powtórzyć?

Przypuszczalna trampolina ucieczki: mechanizm recursive self-improvement


A recursive self-improvement scenario

AI automatyzuje pracę – także twórczą

Następuje skokowy przyrost innowacji ukierunkowanych na… tworzenie innowacji

Beneficjentem jest kraj (koncern?), który pierwszy uzyska funkcjonalności AI umożliwiające tworzenie kolejnych generacji innowacji, nastawionych na tworzenie nowych generacji innowacji

Itd., itd., itd…

Element trampoliny: komputer kwantowy…Twitter: @AndZyberto 5

Kto? Kraj o znaczącej przewadze w rozwoju

innowacyjnych technologii napędzanych przez AI uzyskuje samonapędzającą się przewagę technologiczną, ekonomiczną i … militarną

W cyberświecie nowe eksperymenty i symulacje mogą przebiegać z szybkością… cyfrową

Efekt: radykalna przewaga strategiczna

Przykład: Singapur – 5,6 mln mieszkańcówTwitter: @AndZyberto 6

Zautomatyzować, by przewidzieć!


Marc Benioff, CEO Salesforce:Facebook i inne technologie uzależniające

powinny być regulowane podobnie jak papierosy


. . . n i e p r z e j r z y s t o ś ć . . .


Cyfrowy wyścig zbrojeńCzym różni się od tego z okresu Zimnej Wojny?

Rozproszony charakter obecnego rozwoju techniki – trudno (nie sposób?) go w pełni monitorować

Technologie „podwójnego” zastosowania

Joseph Nye: Potrzebujemy międzynaro-dowego traktatu o cyberprzestrzeni


Trzy rozumienia CyfrWyśZbro

Wąskie Złamanie woli przeciwnika

Szerokie Zbudowanie woli przeciwnika (brain

hacking)

RadykalneThe „Master” Algorithm


Wyścig wąsko rozumiany Wymiar psychologiczny wojny: czytanie intencji

strony przeciwnej – nie intuicja, nie wywiad, ale algorytmy – np. czytanie cech OCEAN z ruchu oczu

Big Five personality traits: Openness to Experience

Conscientiousness

Extraversion

Agreeableness

Neuroticism

4 z tych 5 cech AI potrafi odczytać z nagrań wideo Przykład: szacowanie skłonności wroga do ryzyka


Cyfrowa faza globalizacji

Globalizacja WCZEŚNIEJ: ograniczenie lub utrata suwerenności nad rynkami finansowymi i finansami publicznymi

Globalizacja DZIŚ: rządy tracą wpływy nad komunikacją masową (spadek roli RTV; media społecznościowe), biznesem (Internet Rzeczy), polityką (mikrotargeting)

DANE jako paliwo gospodarcze i monopoliści tej gry –Tech Giants

Wpływ podmiotów zewnętrznych na morale społeczeństwa – inwazja pokus i natychmiastowych gratyfikacji


Szerokie rozumienie wyścigu

* C.T.U.* Radykalne zerwanie transmisji kulturowej

* Timothy Snyder: wir cyfrowych stymulacji


Radykalna wizja rozstrzygnięcia wyścigu


Zagrożenia obecne jako tło dla CWZ Rosja (operacje wpływu ukierunkowane na dezintegrację

społeczną) Niekontrolowane lub narzucane migracje (brak rąk do

pracy) Cyberataki – codzienne testowanie podatności na

zagrożenia? Terroryzm międzynarodowy Rynki finansowe – podatność firm ratingowych na mody i

fobie Nowe sposoby wywoływania zaburzeń społecznych Przeciążenie systemu kierowania państwem w razie

kumulacji różnych typów zagrożeń


Bliskie, bezpośrednio rozpoznawane

Nagłe wstrząsy na rynku pracy – AI, robotyzacja, praca zdalna (przykład: Kraków – Centra Obsługi Biznesu)

Problem przewidywalności i trendów wiodących Nowe techniki monitoringu Nowe techniki manipulacji Mikrotargeting Astroturfing Technologie uzależniające Hybrydyzacja i nadmiarowa złożoność wielu procesów Problem suwerenności cyfrowej i groźba neokolonializmu

cyfrowego (nowa odmiana kapitalizmu peryferyjnego) Utrata zdolności kierownictwa państwa do uzyskiwania

adekwatnej świadomości sytuacyjnej


Monitoring… wszystkiego!

Media społecznościowe

Kamery telewizji przemysłowej

Tablety, smartfony, opaski, … implanty

Inteligentne telewizory, xboxy, głośniki, VR (virtualreality), zabawki „wychowujące” dzieci

Światłowody i czujniki

Autonomiczne samochody

Internet Rzeczy, smart cities

…….. Twitter: @AndZyberto 20

Sztuczna inteligencja

Już jest wokół nas: w komputerach, smartfonach, wyszukiwarkach internetowych, w mediach społecznościowych

Błędne pojmowanie AI: kluczowy nie jest problem świadomości, ale zdolność systemów do uczenia się

Na wielu polach AI już nas przewyższa W przemyśle automatyczna kontrola jakości

zmniejsza ryzyko przeoczenia usterek o 90% Ryzyko pogłębienia różnic i napięć społecznych Uczenie maszynowe i obawy USA przed Chińską AI


Czarny scenariusz na jutro: neokolonializm cyfrowy

Wyszukiwarka przesądza, czego możemy się dowiedzieć

Portal społecznościowy, co, z kim możemy sobie wzajem komunikować oraz jak mamy o tym wszystkim myśleć, a raczej, jak ODCZUWAĆ!

Platformy sprzętowo-software’owe Internetu Rzeczy (IoT) rozstrzygną, jakie gałęzie gospodarki polski kapitał w ogóle będzie mógł rozwijać

TINDER-opodobne aplikacje, kto z kim i wedle jakich reguł ma się dobierać w pary


Rekomendacje dla Polski Główne ryzyko: utracenie zdolności sojuszniczych! Prywatność obywateli kwestią bezpieczeństwa

narodowego Uwzględniając inne kraje, niekoniecznie naśladując je,

wypracować politykę wobec danych Tworzyć pola suwerenności cyfrowej; własne standardy

technologiczne na wybranych polach lub co najmniej uczestnictwo w tworzeniu standardów przez innych

Aktywność w międzynarodowych działaniach na rzecz regulacji Internetu oraz kontroli rozwoju AI


Rekomendacje cd. Przyśpieszyć kształcenie specjalistów z zakresu AI na

uczelniach politechnicznych i ekspertów od społecznych konsekwencji rozwoju AI na wydziałach nauk społecznych

Inspirować polskie think tanki na monitorowanie badań i zastosowań AI na świecie

Budować zdolności operacyjne państwa i wojska w świecie bez Sieci i/lub prądu

Wywiad i „kontrwywiad” technologiczny – m.in. ograniczenie drenażu mózgów

Specustawa…Twitter: @AndZyberto 24

Polska w obliczu cyfrowego wyÅ cigu zbrojeÅ (2)3kep.sep.com.pl/photo/files/Andrzej...

Documents

Transcript of Polska w obliczu cyfrowego wyÅ cigu zbrojeÅ (2)3kep.sep.com.pl/photo/files/Andrzej...