text_structure.xml
41.7 KB
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
<?xml version='1.0' encoding='utf-8'?>
<teiCorpus xmlns="http://www.tei-c.org/ns/1.0" xmlns:xi="http://www.w3.org/2001/XInclude">
<xi:include href="PPC_header.xml" />
<TEI>
<xi:include href="header.xml" />
<text>
<body>
<div xml:id="div-1">
<u xml:id="u-1.0" who="#komentarz">Początek posiedzenia o godzinie 16 minut 15</u>
<u xml:id="u-1.1" who="#komentarz">Posiedzeniu przewodniczy przewodniczący Bogdan Klich</u>
</div>
<div xml:id="div-2">
<u xml:id="u-2.0" who="#BogdanKlich">Witam serdecznie na kolejnym posiedzeniu Komisji Spraw Zagranicznych i Unii Europejskiej.</u>
<u xml:id="u-2.1" who="#BogdanKlich">Tym razem posiedzenie będzie w całości poświęcone kwestiom legislacyjnym. Jest to osiemdziesiąte trzecie posiedzenie komisji. Sprawdzam, czy rzeczywiście osiemdziesiąte trzecie. Tak. Przed chwilą zakończyliśmy osiemdziesiąte drugie posiedzenie.</u>
<u xml:id="u-2.2" who="#BogdanKlich">Informuję państwa, że posiedzenie komisji jest oczywiście transmitowane w internecie.</u>
<u xml:id="u-2.3" who="#BogdanKlich">Chciałbym zapytać pro forma, czy na sali są jakieś osoby wykonujące działalność lobbingową. Rozumiem, że nie ma, bo widzę po twarzach, że są tylko państwo senatorowie, przedstawiciele rządu oraz państwo eksperci.</u>
<u xml:id="u-2.4" who="#BogdanKlich">Czy są senatorowie obradujących zdalnie?</u>
<u xml:id="u-2.5" who="#Gloszsali">Tak, senator Szwed.</u>
<u xml:id="u-2.6" who="#BogdanKlich">Doskonale.</u>
<u xml:id="u-2.7" who="#BogdanKlich">Chciałbym powitać serdecznie pana Piotra Patkowskiego, wiceministra w Ministerstwie Finansów, który jest z nami zdalnie, wraz z zespołem. Chciałbym powitać przedstawicieli Kancelarii Prezesa Rady Ministrów, panią Annę Białą, zastępcę dyrektora Departamentu Rozwiązań Innowacyjnych w KPRM, oraz pana Roberta Kroplewskiego, pełnomocnika ministra cyfryzacji do spraw społeczeństwa informacyjnego. Witam państwa. Z ekspertów mamy osobiście pana prof. Artura Nowaka-Fara, witam serdecznie, i panią prof. Lenę Kolarską-Bobińską, która obraduje z nami zdalnie.</u>
<u xml:id="u-2.8" who="#BogdanKlich">Stwierdzam, że jest kworum i że w związku z tym możemy prowadzić obrady i podejmować decyzje.</u>
<u xml:id="u-2.9" who="#BogdanKlich">Porządek obrad składa się dzisiaj tak naprawdę tylko z 2 punktów. Odczytam: wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji. I drugi akt: wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady w sprawie europejskich zielonych obligacji. W trzecim punkcie będziemy procedować akty nieustawodawcze, w sprawie których komisja nie będzie występowała o stanowisko rządu.</u>
<u xml:id="u-2.10" who="#BogdanKlich">Czy ktoś z państwa chciałby zabrać głos w sprawie tak przedstawionego porządku obrad? Nie ma zgłoszeń.</u>
<u xml:id="u-2.11" who="#BogdanKlich">W związku z tym uznaję, że porządek obrad został zaakceptowany przez Szanowną Komisję.</u>
<u xml:id="u-2.12" who="#BogdanKlich">Przechodzimy do rozpatrzenia punktu pierwszego porządku obrad: wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji, zwany aktem w sprawie sztucznej inteligencji, i zmieniającego niektóre akty ustawodawcze Unii, dokument o sygnaturze COM(2021) 206, oraz Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów „Wspieranie europejskiego podejścia do sztucznej inteligencji”, dokument o sygnaturze COM(2021) 205.</u>
<u xml:id="u-2.13" who="#BogdanKlich">Poproszę przedstawiciela Kancelarii Prezesa Rady Ministrów o przedstawienie projektu stanowiska rządu.</u>
<u xml:id="u-2.14" who="#BogdanKlich">Bardzo proszę państwa.</u>
</div>
<div xml:id="div-3">
<u xml:id="u-3.0" who="#AnnaBiała">Dziękuję.</u>
<u xml:id="u-3.1" who="#AnnaBiała">Szanowny Panie Przewodniczący! Szanowni Państwo Senatorowie!</u>
<u xml:id="u-3.2" who="#AnnaBiała">21 kwietnia br. Komisja opublikowała pakiet w sprawie sztucznej inteligencji, który obejmuje projekt rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji oraz nowy skoordynowany plan na rzecz sztucznej inteligencji.</u>
<u xml:id="u-3.3" who="#AnnaBiała">Publikacja tych dokumentów wieńczy kolejny etap budowania przez Unię Europejską trzeciej drogi rozwoju systemów sztucznej inteligencji opartej o ramy etyczne ujęte w koncepcji godnej zaufania sztucznej inteligencji. Stanowi ona koncepcję alternatywną wobec podejścia utylitarnego czy podejścia spójności społecznej, reprezentowanego przez inne bloki społeczno-gospodarcze. Koncepcja ta to także swoisty znak handlowy, promujący ponadregionalne zaufanie do produktów pochodzących z Unii Europejskiej i stosowany na jej terytorium. Podkreślenia wymaga fakt, że pakiet Komisji Europejskiej w sprawie sztucznej inteligencji jest częścią wysiłków Unii Europejskiej na rzecz bycia aktywnym graczem na międzynarodowych i wielostronnych forach w dziedzinie cyfryzacji, technologii oraz światowym liderem w promowaniu godnej zaufania sztucznej inteligencji.</u>
<u xml:id="u-3.4" who="#AnnaBiała">Te dokumenty pozwolą też zapewnić spójność pomiędzy działaniami zewnętrznymi Unii Europejskiej a polityką wewnętrzną Unii Europejskiej. Obejmują one działania w relacjach z państwami trzecimi w obszarze bezpieczeństwa, inwestycji, handlu, w tym cyfrowego, normalizacji i wpływu geopolitycznego np. w ramach UNESCO czy Rady Europy.</u>
<u xml:id="u-3.5" who="#AnnaBiała">Ważne jest to, że przyjęty właśnie przez Komisję Europejską instrument naprawy i odporności umożliwi Unii Europejskiej urzeczywistnienie jej ambicji, aby stać się inicjatorem skoordynowanego podejścia do rozwoju koncepcji godnej zaufania sztucznej inteligencji.</u>
<u xml:id="u-3.6" who="#AnnaBiała">Polska aktywnie uczestniczy w działaniach na rzecz rozwoju godnej zaufania sztucznej inteligencji, czego wyrazem jest m.in. przyjęta w grudniu ubiegłego roku „Polityka dla rozwoju sztucznej inteligencji w Polsce od roku 2020”. Pakiet Komisji Europejskiej realizuje wiele polskich postulatów, wyrażonych choćby we wspólnej deklaracji państw Grupy Wyszehradzkiej z kwietnia 2018 r.</u>
<u xml:id="u-3.7" who="#AnnaBiała">Krótko o projekcie rozporządzenia. Zawiera on ramy prawne dotyczące sztucznej inteligencji, które mają zagwarantować bezpieczeństwo i prawa podstawowe obywateli oraz przedsiębiorstw, a tym samym przyczynić się do upowszechnienia sztucznej inteligencji oraz do zwiększenia inwestycji i innowacyjności w tej dziedzinie w całej Unii Europejskiej. Projektowane rozporządzenie będzie działać w powiązaniu z innymi dokumentami Unii Europejskiej, w tym z aktami prawnymi, których projekty są aktualnym przedmiotem prac. Dotyczy to zwłaszcza nowelizowanych przepisów dotyczących bezpieczeństwa produktów, projektu rozporządzenia o usługach cyfrowych, projektu rozporządzenia o rynkach cyfrowych oraz strategii cyberbezpieczeństwa Unii Europejskiej, europejskiej strategii w zakresie danych, planu działania na rzecz edukacji cyfrowej czy wreszcie planu na rzecz demokracji europejskiej.</u>
<u xml:id="u-3.8" who="#AnnaBiała">Polski rząd wyraża kierunkowe poparcie dla wielu rozwiązań zawartych w projekcie. Dotyczy to w szczególności objęcia zakresem stosowania rozporządzenia także podmiotów spoza Unii Europejskiej w zakresie stosowania systemów sztucznej inteligencji na jej rynku, wprowadzenia kategorii zakazanych praktyk w zakresie sztucznej inteligencji, wprowadzenia kategorii systemów sztucznej inteligencji wysokiego ryzyka i adekwatnych do nich rozwiązań, uwzględnienia systemów niskiego ryzyka, możliwości aktualizacji wykazu systemów sztucznej inteligencji wysokiego ryzyka, kontroli systemów sztucznej inteligencji ze strony człowieka, kontroli sądowoadministracyjnej systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa, wzmocnienia koncepcji wyjaśnialnej sztucznej inteligencji, piaskownic regulacyjnych jako narzędzia wspierającego innowacyjność oraz skrócenia ścieżki transferu wiedzy i komercjalizacji rozwiązań opartych na sztucznej inteligencji.</u>
<u xml:id="u-3.9" who="#AnnaBiała">Główny sprzeciw polskiego rządu budzi zbyt szerokie zdefiniowanie zakresu pojęciowego systemu sztucznej inteligencji. Należy docenić próby Komisji Europejskiej ujęcia ogólnej odpornej na zamiany w przyszłości definicji sztucznej inteligencji przy jednoczesnym uwzględnianiu podejścia technicznego i funkcjonalnego. Jednakże wątpliwość budzi z jednej strony kwestia zrelatywizowania systemu sztucznej inteligencji do zwykłego oprogramowania, a z drugiej strony kwestia technik i podejść wymienionych w załączniku nr 1, które niesłusznie pochłaniać mogą zwykłe metody statystyczne, metody regresji logicznej, które nie wykorzystują systemów uczenia maszynowego; przyjęcie aktualizacji zakresu pojęcia systemów sztucznej inteligencji i technik wysokiego ryzyka w trybie aktu delegowanego, a nie przeglądu i nowelizacji rozporządzenia, co byłoby zgodne z art. 290 Traktatu o funkcjonowaniu Unii Europejskiej, jeśli dotyczy istotnych elementów polityki; nieokreślenie autonomii państw członkowskich w zakresie kształtowania warunków dostępności, w tym finansowanych, do piaskownic regulacyjnych; nieokreślenie autonomii państw członkowskich w zakresie nakładania sankcji za nieprzestrzeganie zakazów i nakazów dotyczących systemów sztucznej inteligencji.</u>
<u xml:id="u-3.10" who="#AnnaBiała">Konieczne decyzje ustrojowe. W wyniku przyjęcia rozporządzenia w projektowanym kształcie będzie konieczne wskazanie krajowego organu nadzorczego dla zapewnienia i stosowania rozporządzenia spośród organów właściwych. W Polsce dotychczas nie występuje organ wyspecjalizowany w sprawie sztucznej inteligencji, stąd niezbędne będzie wprowadzenie do porządku prawnego i instytucjonalnego w Polsce krajowego organu nadzorczego, pełniącego jednocześnie funkcję organu notyfikacyjnego i organu nadzoru rynku.</u>
<u xml:id="u-3.11" who="#AnnaBiała">Na koniec chciałabym podkreślić, że dokumenty tworzące pakiet Komisji Europejskiej w spawie sztucznej inteligencji są bardzo złożone i będą wywierać kluczowy wpływ na wiele obszarów życia w Unii Europejskiej, dlatego poddajemy je szczegółowym konsultacjom z partnerami społecznymi, tudzież w ramach administracji rządowej. Finalne stanowisko rządu zostało przyjęte w sierpniu tego roku. Dziękuję bardzo.</u>
<u xml:id="u-3.12" who="#AnnaBiała">Jeżeli macie państwo jakieś pytania, to jesteśmy do dyspozycji.</u>
</div>
<div xml:id="div-4">
<u xml:id="u-4.0" who="#BogdanKlich">Dziękuję również.</u>
<u xml:id="u-4.1" who="#BogdanKlich">Proszę panie i panów senatorów o udział w dyskusji. Sprawa jest istotna.</u>
<u xml:id="u-4.2" who="#BogdanKlich">Jak widzę, pani senator, przewodnicząca komisji Danuta Jazłowiecka.</u>
<u xml:id="u-4.3" who="#BogdanKlich">Bardzo proszę.</u>
</div>
<div xml:id="div-5">
<u xml:id="u-5.0" who="#DanutaJazłowiecka">Dziękuję bardzo, Panie Przewodniczący.</u>
<u xml:id="u-5.1" who="#DanutaJazłowiecka">Powiedziała pani, że poddajecie państwo rozporządzenie przygotowywane przez Unię Europejską konsultacjom społecznym. Chciałabym się dowiedzieć, z kim państwo konsultujecie i jakie są uwagi ze strony, sądzę, ekspertów, którzy zajmują się sztuczną inteligencją.</u>
<u xml:id="u-5.2" who="#DanutaJazłowiecka">Ja mam takie wrażenie, proszę mnie wyprowadzić z błędu, że tak naprawdę rozporządzenie koncentruje się na takim jednostkowym działaniu, tzn. bezpieczeństwie produktów, jak państwo sami wskazujecie, zapewnieniu prawa do prywatności, ochronie danych osobowych. A czy ono obejmuje również zapewnienie bezpieczeństwa gospodarczego i społecznego? Czy, spotykając się i dyskutując nad tym rozporządzeniem, o tym też państwo rozmawiacie i czy takie zapisy też znajdą się w rozporządzeniu? Dziękuję.</u>
</div>
<div xml:id="div-6">
<u xml:id="u-6.0" who="#BogdanKlich">Bardzo dziękuję.</u>
<u xml:id="u-6.1" who="#BogdanKlich">Przyłączam się z całą mocą do tego pytania pani senator na temat tego, z kim i jakie konkretnie sprawy państwo konsultujecie.</u>
</div>
<div xml:id="div-7">
<u xml:id="u-7.0" who="#RobertKroplewski">Dzień dobry państwu.</u>
<u xml:id="u-7.1" who="#RobertKroplewski">Może ja pozwolę sobie odpowiedzieć.</u>
<u xml:id="u-7.2" who="#RobertKroplewski">Robert Kroplewski.</u>
<u xml:id="u-7.3" who="#RobertKroplewski">Dziękuję za zadane pytania. To są 2 pytania i na oba po kolei postaramy się odpowiedzieć.</u>
<u xml:id="u-7.4" who="#RobertKroplewski">Konsultujemy to w ramach grup roboczych, które są skoncentrowane przy Ministerstwie Cyfryzacji. Te grupy zostały zbudowane w 2018 r. Pierwsza inicjatywa polegała na tym, żeby wygenerować pierwsze założenia jakkolwiek strategiczne dla polskiej polityki, polskiego społeczeństwa, polskiej nauki i też polskiej geopolityki w kontekście sztucznej inteligencji. Dzięki tym grupom ekspertów – na początku 12-osobowym, ekspertów, których udało nam się odszukać na rynku polskim, a wielu ich nie było, w roku 2018 grupy te skoncentrowały aż 220 osób – udało się wypracować eksperckie podejście wielostronne. Jest to sektor społeczny, czyli NGO, są to naukowcy, są to przedstawiciele biznesu, przedstawiciele oczywiście różnych resortów i jednostek samorządowych. Te grupy zakończyły wtedy pracę.</u>
<u xml:id="u-7.5" who="#RobertKroplewski">Ale praca tych grup w zeszłym roku została wznowiona. W tej chwili jest 320 osób w ramach tych grup roboczych, mamy podział na 12 typów grup roboczych w zależności od dyscyplin. Mogę je zaraz wymienić, jeżeli będzie taka potrzeba. Na podstawie pracy z tymi grupami – głównie są to grupy, które zajmują się bezpieczeństwem, grupy, które zajmują się komercjalizacją i innowacyjnością, jest grupa, która zajmuje się etyką i prawem, grupa, która zajmuje się standaryzacją, oraz grupa, która zajmuje się skalowaniem sztucznej inteligencji naszych algorytmów z poziomu Polski na świat – uzyskaliśmy odpowiedzi, te grupy prowadziły konsultacje. Konsultacje dotyczyły wątków kierunkowych, ale też bardzo szczegółowych zapisów. Te zapisy są na bieżąco poddawane instrukcjom, na razie czysto warsztatowym, bo Komisja Europejska jeszcze nie prowadzi negocjacji, co najwyższej ogłosiła grupy robocze i w ramach tych grup spotykamy się z przedstawicielami państw członkowskich i próbujemy wsłuchać się w te głosy. Szanse, które widzimy w tym rozporządzeniu, a jednocześnie ryzyka, które zauważamy, na bieżąco konsultujemy w ramach grup roboczych. To do nich należy.</u>
<u xml:id="u-7.6" who="#RobertKroplewski">Jeżeli chodzi o stronę społeczną, jest tu bardzo wiele podmiotów. Jest to i Fundacja „Panoptykon”, Fundacja „Instrat” i związek „Lewiatan”, bardzo dobrze państwu znany, jeżeli chodzi o ośrodki, które ogniskują głos społeczny, ale ten bliżej biznesu. Jest także Związek Pracodawców i Przedsiębiorców, jest również związek ZIPSEE. A oprócz tego jest cały poważny polski biznes, który – to też można powiedzieć – z jednej strony bardzo mocno rozwija sztuczną inteligencję, a z drugiej strony bardzo mocno chciałby rozwijać, bo cokolwiek by powiedzieć stan rozwoju sztucznej inteligencji w Polsce jest na razie zupełnie podstawowy. Wiele algorytmów, które były sprzedawane i rozwijane w Polsce, dzisiaj nazywa się sztuczną inteligencją, ale one nie są sztuczną inteligencją. Sztuczna inteligencja, tylko dla przypomnienia niektórym z państwa, to jest konglomerat różnych technologii, Machine Learning, to jest uczenie głębokie, to jest logika rozmyta, jest to cały zestaw technologii, które dopiero w połączeniu tworzą system.</u>
<u xml:id="u-7.7" who="#DanutaJazłowiecka">Przepraszam, ale ja tu jeszcze mniej rozumiem. Pojęcie sztucznej inteligencji…</u>
<u xml:id="u-7.8" who="#RobertKroplewski">Musiałem użyć pojęć właściwych dla tej technologii, najmocniej przepraszam.</u>
<u xml:id="u-7.9" who="#RobertKroplewski">Jest to w każdym razie… Może inaczej. Sztuczna inteligencja nie jest logiką, tylko ma tzw. czarną skrzynkę. Przetwarzanie danych polega na tym, że trzeba uzyskiwać informacje o relacjach między danymi, nie można odtworzyć przyczyny i skutku. Na tym polega problem. Sieci neuronowe są bardzo skomplikowane, im bardziej są rozbudowane, tym bardziej ta czarna skrzynka się poszerza i wytłumaczenie mechanizmów sztucznej inteligencji jest bardzo trudne, co nie oznacza, że jest to bardzo przydatne, optymalizuje procesy, jednocześnie skłania do większych wyzwań naukowych czy też wyzwań badawczych.</u>
<u xml:id="u-7.10" who="#RobertKroplewski">Celem naszej polityki rozwoju sztucznej inteligencji jest to, aby Polska skorzystała z największego zasobu, jaki mamy w Polsce, czyli 33% klasy kreatywnej. Wedle indeksów globalnych tak jesteśmy oceniani. Jeżeli tak, to musimy przede wszystkim chronić swoje talenty, musimy je wspierać i dla tych talentów stwarzać możliwości rozwijania tej dyscypliny, a jednocześnie komercjalizacji i niekoniecznie na polskich rynkach, tylko za granicą. Taki jest cel naszej strategii.</u>
<u xml:id="u-7.11" who="#RobertKroplewski">Drugie pytanie… Przepraszam, chyba coś mi umknęło.</u>
</div>
<div xml:id="div-8">
<u xml:id="u-8.0" who="#BogdanKlich">Pani Senator?</u>
</div>
<div xml:id="div-9">
<u xml:id="u-9.0" who="#DanutaJazłowiecka">Drugie pytanie dotyczyło tego, czy państwo rozmawiacie na temat bezpieczeństwa gospodarczo-społecznego…</u>
<u xml:id="u-9.1" who="#RobertKroplewski">Jak najbardziej…</u>
<u xml:id="u-9.2" who="#Gloszsali">Proszę włączyć mikrofon.</u>
<u xml:id="u-9.3" who="#DanutaJazłowiecka">Przepraszam bardzo.</u>
<u xml:id="u-9.4" who="#DanutaJazłowiecka">Czy państwo i Unia Europejska, pracując nad tym dokumentem, bo tak naprawdę na ten dokument czeka cały świat, również rozmawiacie, dyskutujecie z przedstawicielami innych krajów, spoza Unii Europejskiej?</u>
</div>
<div xml:id="div-10">
<u xml:id="u-10.0" who="#RobertKroplewski">Jak najbardziej. Jeżeli mogę, Pani Senator, z przyjemnością na to pytanie odpowiem.</u>
<u xml:id="u-10.1" who="#RobertKroplewski">Jak najbardziej, dyskutujemy. Od 2018 r. jako Polska, a to też nie było takie pewne, byliśmy członkami reprezentacji naszych ekspertów, tzw. grupy wysokiego szczebla, która w ogóle konceptualizowała ten pomysł, tę ideę godnej zaufania sztucznej inteligencji. I to jest właśnie odpowiedź geopolityczna. Unia Europejska poszukuje trzeciej drogi rozwoju sztucznej inteligencji, te 2 strumienie zostały tu zaprezentowane: spójność społeczna versus utylitarność, czyli znalezienia się poprzez zaufanie do technologii. To zaufanie budujemy nie tylko na poziomie etyki, co jest oczywiście bardzo ważne, czyli relacja autonomia człowieka versus automatyka maszyn, czy też właśnie ta niewyjaśnialność sztucznej inteligencji, tylko również na podstawie wzajemnego uznawania systemów interoperacyjnych, różnego rodzaju standardów wymiany danych, też zaufania co do jakości tych danych. Dane surowe są odbiciem społeczeństwa, odbiciem rzeczywistości, ale one jako takie największej wartości nie przedstawiają. Najbardziej wartościowe dane są wyselekcjonowane, tzw. małe porcje danych. A one, żeby były zaufane, muszą mieć zdolność do sprawdzenia. Stąd zasady etyczne, które zostały zaproponowane w tej koncepcji sztucznej inteligencji godnej zaufania człowieka dotyczą transparentności, rozliczalności i, co pojawia się w pewnym momencie, odporności. To nie jest odporność z poziomu cyberbezpieczeństwa, tylko z poziomu ataku, z którym jednocześnie zwinnie może sobie poradzić sztuczna inteligencja, tak aby ten atak odeprzeć. To jest bardzo trudne zadanie. Sztuczna inteligencja w kontekście tej koncepcji jest chroniona nie tylko poprzez technikę, która jest w niej zaszyta, zaszyta w systemie sztucznej inteligencji, ale również poprzez procedury, które są wokół tego, tzw. procedury walidacyjne.</u>
<u xml:id="u-10.2" who="#RobertKroplewski">Ta dyskusja toczy się równolegle i w niektórych miejscach jest zakończona. Np. w OECD zostały stworzone ramy i rekomendacje dla zarządzania godną zaufania sztuczną inteligencją. Równolegle powstał, niedokończony w tej chwili, ale już jest, pierwszy projekt globalnych zasad etycznych, który został wygenerowany przez ekspertów UNESCO. W pracach tych wszystkich grup bierzemy udział. Jednocześnie trwają prace nad nowym protokołem, być może konwencją, dotyczącym ochrony praw człowieka na poziomie Rady Europy. I studium wykonalności, które dotyczy tej relacji, napięcia między sztuczną inteligencją, prawami człowieka, demokracją a praworządnością, zostało już poczynione. Mogę tu tylko tyle powiedzieć, że główny rezultat jest taki, że należy wprowadzić tzw. twarde prawo, które wspiera samoregulację, a nie tylko posłużyć się samoregulacją w kontekście sztucznej inteligencji. Samoregulacja jest oceniania przez ekspertów i wiele grup negocjacyjnych jako coś, co jest tylko przymknięciem oka na zbyt chaotyczny rozwój sztucznej inteligencji, który może krzywdzić i geopolityczną przestrzeń gospodarczą, i człowieka w sensie jego autonomii, może też zagrozić koniec końców nadzorowi człowieka nad sztuczną inteligencją. Dzisiaj ten nadzór jest w stu procentach zapewniony poprzez stan techniki, który jest raczej początkowy, ale dalszy rozwój techniki może zaburzyć nadzór człowieka, w związku z tym trzeba powiedzieć, jak to powinno być docelowo.</u>
<u xml:id="u-10.3" who="#RobertKroplewski">Skoro już państwo zadajecie takie szczegółowe pytania, to tylko jedną rzecz pozwolę sobie powiedzieć. Panie Przewodniczący, główny wniosek też jest z tego taki, że sztuczna inteligencja nie może uzyskać w sposób prawny, poprzez ustawodawców, osobowości prawnej, w związku z tym nie ma zdolności do czynności prawnych, nie może też negocjować i prowadzić transakcji. To jest w tej chwili niejako przesądzone na poziomie dyskusji międzynarodowej. Dziękuję bardzo.</u>
</div>
<div xml:id="div-11">
<u xml:id="u-11.0" who="#BogdanKlich">Dobrze by było, żeby też nie uzyskała pełnej samodzielności, tzn. abyśmy nie stracili nadzoru nad tymi systemami.</u>
<u xml:id="u-11.1" who="#komentarz">Wypowiedź poza mikrofonem</u>
<u xml:id="u-11.2" who="#BogdanKlich">No właśnie.</u>
<u xml:id="u-11.3" who="#BogdanKlich">Czy ktoś z pań i panów senatorów chciałby jeszcze zadać jakieś pytanie, odnieść się do tego, zanim poproszę senatora sprawozdawcę o głos? Nie widzę, nie słyszę chętnych.</u>
<u xml:id="u-11.4" who="#BogdanKlich">Pan senator Szwed przygotował projekt opinii. Tak że nie tylko będziemy wyrażali aprobatę, nie tylko będziemy wyrażali ją z uwagami, jak to się często zdarza, ale jest propozycja, żebyśmy przyjęli opinię w tej sprawie.</u>
<u xml:id="u-11.5" who="#BogdanKlich">W związku z tym bardzo proszę pana senatora Szweda, zdalnie, o przedstawienie tego projektu opinii.</u>
<u xml:id="u-11.6" who="#BogdanKlich">Proszę, Panie Senatorze.</u>
</div>
<div xml:id="div-12">
<u xml:id="u-12.0" who="#AleksanderSzwed">Dziękuję, Panie Przewodniczący.</u>
<u xml:id="u-12.1" who="#AleksanderSzwed">Wysoka Komisjo! Szanowni Goście!</u>
<u xml:id="u-12.2" who="#AleksanderSzwed">Zanim przedstawię projekt opinii, Panie Przewodniczący, jeżeli pan pozwoli, dwa słowa na temat samego projektu, ponieważ rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy…</u>
<u xml:id="u-12.3" who="#BogdanKlich">Nie słyszymy. Proszę troszkę bliżej mikrofonu.</u>
<u xml:id="u-12.4" who="#AleksanderSzwed">Dobrze.</u>
<u xml:id="u-12.5" who="#BogdanKlich">O, teraz lepiej.</u>
<u xml:id="u-12.6" who="#AleksanderSzwed">Tak, tak.</u>
<u xml:id="u-12.7" who="#AleksanderSzwed">Panie Przewodniczący! Wysoka Komisjo! Szanowni Zebrani Goście!</u>
<u xml:id="u-12.8" who="#AleksanderSzwed">Jeśli chodzi o rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji, jest to pierwszy akt tego typu w sprawie sztucznej inteligencji.</u>
<u xml:id="u-12.9" who="#AleksanderSzwed">Zanim przedstawię opinię, chciałbym podkreślić pewną kwestię w odniesieniu do zasady pomocniczości. W zasadzie już wszystko zostało w opinii rządu przedstawione, sam przedmiot projektu, cele oraz wszystkie uwagi zostały zawarte w stanowisku rządu. Jeśli chodzi o ocenę w kwestii zasady pomocniczości, to chcę powiedzieć, że przedmiotowy projekt rozporządzenia jest zgodny z zasadą pomocniczości. Mamy tu przygotowaną opinię Komisji Spraw Zagranicznych i Unii Europejskiej. I tak – w punkcie pierwszym – Komisja Spraw Zagranicznych i Unii Europejskiej Senatu z zadowoleniem przyjmuje inicjatywę Komisji Europejskiej mającą na celu regulację i wprowadzenie do…</u>
<u xml:id="u-12.10" who="#BogdanKlich">Mamy ją przed sobą, Panie Senatorze, mamy ją przed sobą, więc jeśli pan zechciałby ją tylko streścić, to dla naszych słuchaczy byłoby wystarczające. Odczytywanie jej po prostu nie ma w tej chwili głębszego sensu.</u>
<u xml:id="u-12.11" who="#AleksanderSzwed">Pierwsze 3 punkty odnoszą się bezpośrednio do samego aktu rozporządzenia. Jeżeli pan przewodniczący pozwoli, to ja przywołam tylko punkty czwarty i piąty, bo tutaj są takie rzeczy, które po części wynikają ze stanowiska rządu, ale odnoszą się już bezpośrednio do uwag.</u>
<u xml:id="u-12.12" who="#AleksanderSzwed">Tak że komisja wyraża jednak wątpliwości do co do możliwości wyjątkowego użycia systemu zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów egzekwowania prawa bez wcześniejszego zezwolenia wydanego przez organ sądowy lub niezależny organ administracyjny państwa członkowskiego. W ocenie komisji przypadki, w których może dojść do takiej sytuacji, powinny zostać ograniczone i doprecyzowane, a sądowa kontrola takiego zezwolenia wzmocniona. A w punkcie piątym: w ocenie Komisji Spraw Zagranicznych i Unii Europejskiej należy zadbać również o to, by w toku dalszych prac nad projektem rozporządzenia zwrócić szczególną uwagę na zastosowanie odniesień do ochrony środowiska naturalnego. Ze względu na szerokie zastosowanie systemów sztucznej inteligencji w przemyśle wymagana byłaby ich uprzednia weryfikacja pod kątem oddziaływania na środowisko naturalne.</u>
<u xml:id="u-12.13" who="#AleksanderSzwed">Tak że generalnie opinia odnosi się do stanowiska rządu, ale też uwypukla te wszystkie mankamenty, które niesie to rozporządzenie. Dziękuję bardzo.</u>
</div>
<div xml:id="div-13">
<u xml:id="u-13.0" who="#BogdanKlich">Bardzo dziękuję.</u>
<u xml:id="u-13.1" who="#BogdanKlich">Szanowni Państwo, czy ze strony naszych ekspertów są jakieś głosy? Panie Profesorze? Pani Profesor? Nie ma.</u>
<u xml:id="u-13.2" who="#BogdanKlich">W związku z tym zapytam, czy państwo mają jakieś uwagi do projektu opinii przygotowanej przez pana senatora, wiceprzewodniczącego komisji, senatora Szweda? Nie widzę, nie słyszę uwag.</u>
<u xml:id="u-13.3" who="#BogdanKlich">Myślę, że w związku z tym możemy przejść do głosowania.</u>
<u xml:id="u-13.4" who="#BogdanKlich">Ponieważ będziemy przyjmować tę opinię, głosowanie jest niezbędne.</u>
<u xml:id="u-13.5" who="#BogdanKlich">Dlatego chciałbym państwa zapytać: kto z pań i panów senatorów jest za przyjęciem zaprezentowanej przez senatora Szweda opinii?</u>
<u xml:id="u-13.6" who="#Gloszsali">2 senatorów.</u>
<u xml:id="u-13.7" who="#BogdanKlich">Kto jest przeciw?</u>
<u xml:id="u-13.8" who="#Gloszsali">Nikt.</u>
<u xml:id="u-13.9" who="#BogdanKlich">Kto się wstrzymał od głosu?</u>
<u xml:id="u-13.10" who="#Gloszsali">1 senator.</u>
<u xml:id="u-13.11" who="#BogdanKlich">W związku z tym stosunkiem głosów 2:1, ten 1 głos to głos senatora wstrzymującego się…</u>
<u xml:id="u-13.12" who="#Glosyzsali">Za, za…</u>
<u xml:id="u-13.13" who="#Gloszsali">Jeszcze senator Szwed. No tak, nie policzyłem pana głosu…</u>
<u xml:id="u-13.14" who="#Gloszsali">4 senatorów – za, 1 senator wstrzymał się od głosu.</u>
<u xml:id="u-13.15" who="#BogdanKlich">4 senatorów – za, 1 senator wstrzymał się od głosu.</u>
<u xml:id="u-13.16" who="#BogdanKlich">W związku z tym opinia przedstawiona przez pana senatora Szweda została przyjęta.</u>
<u xml:id="u-13.17" who="#BogdanKlich">Dziękuję bardzo państwu i panu senatorowi za przedstawienie tego projektu opinii, za pracę, która została wykonana.</u>
<u xml:id="u-13.18" who="#BogdanKlich">Będziemy się tym sprawom przyglądać</u>
<u xml:id="u-13.19" who="#BogdanKlich">Ja myślę, Pani Senator, zwracam się do pani senator Jazłowieckiej, że warto by było, abyśmy jako komisja poprosili o to, o co pani pytała, tzn. o wykaz tych podmiotów, które brały udział w konsultacjach, nawet gdyby był on tak rozbudowany, jak państwo to przedstawili.</u>
<u xml:id="u-13.20" who="#BogdanKlich">Tak?</u>
</div>
<div xml:id="div-14">
<u xml:id="u-14.0" who="#DanutaJazłowiecka">Ja bym poszła nawet troszeczkę dalej. Jeżeli państwo macie takie opinie na piśmie, to bardzo chętnie też byśmy się z tymi uwagami zapoznali, bo to jest dosyć trudny temat, a jednocześnie szalenie istotny dla przyszłości naszego społeczeństwa i w ogóle tak naprawdę dla całego świata.</u>
</div>
<div xml:id="div-15">
<u xml:id="u-15.0" who="#RobertKroplewski">Postaram się zgromadzić.</u>
<u xml:id="u-15.1" who="#RobertKroplewski">Jeżeli mogę…</u>
<u xml:id="u-15.2" who="#BogdanKlich">Proszę włączyć mikrofon.</u>
<u xml:id="u-15.3" who="#RobertKroplewski">…to jeszcze słówko.</u>
<u xml:id="u-15.4" who="#RobertKroplewski">Te opinie czasami są w formie elaboratu, bo ktoś indywidulanie formułuje opinię, czasami są to opinie niejako agregowane przez przewodniczącego danej podgrupy, który spisuje te uwagi, często one są sygnowane nazwiskiem, więc to jest transparentne, tyle że mają wtedy krótszą postać, postać wypowiedzi albo kierunkowej, albo normatywnej.</u>
</div>
<div xml:id="div-16">
<u xml:id="u-16.0" who="#BogdanKlich">W związku z tym, proszę państwa, mamy 2 wystąpienia o przedstawienie na piśmie informacji: pierwszej informacji o tym, kto brał udział w konsultacjach, i drugiej informacji o najważniejszych opiniach, które pochodziły z grup eksperckich, o których pan wspominał w swoim wystąpieniu.</u>
<u xml:id="u-16.1" who="#RobertKroplewski">Tak, tak.</u>
<u xml:id="u-16.2" who="#BogdanKlich">Dziękuję bardzo.</u>
<u xml:id="u-16.3" who="#BogdanKlich">Przechodzimy do kolejnego punktu, do punktu drugiego.</u>
<u xml:id="u-16.4" who="#BogdanKlich">Proszę państwa, informuję, że ta opinia przyjęta przez naszą komisję zostanie przekazana w ramach dialogu politycznego także do instytucji Unii Europejskiej, tzn. do wszystkich 3 instytucji: do Komisji Europejskiej, do Parlamentu Europejskiego oraz do Rady Unii Europejskiej. Rozumiem, że się na to godzimy, bo opinia jest ważna i w ważnej spawie.</u>
<u xml:id="u-16.5" who="#BogdanKlich">Dziękuję państwu bardzo w tym punkcie.</u>
<u xml:id="u-16.6" who="#Glosyzsali">Dziękujemy.</u>
<u xml:id="u-16.7" who="#BogdanKlich">Przechodzimy do punktu drugiego: wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady w sprawach europejskich zielonych obligacji.</u>
<u xml:id="u-16.8" who="#BogdanKlich">Instytucją wiodącą jest tutaj Ministerstwo Finansów. W związku z tym bardzo proszę pana wiceministra Patkowskiego, który obraduje z nami zdalnie, jak zostałem poinformowany, o przedstawienie tego aktu prawnego.</u>
<u xml:id="u-16.9" who="#BogdanKlich">Bardzo proszę, Panie Ministrze.</u>
</div>
<div xml:id="div-17">
<u xml:id="u-17.0" who="#PiotrPatkowski">Dziękuję.</u>
<u xml:id="u-17.1" who="#PiotrPatkowski">Panie Przewodniczący! Wysoka Komisjo!</u>
<u xml:id="u-17.2" who="#PiotrPatkowski">Zasadniczym celem wniosku dotyczącego rozporządzenia Parlamentu i Rady w sprawie europejskich zielonych obligacji jest ustanowienie jednolitego standardu, który musi spełniać obligacja, aby mogła zostać oznaczona jako europejska zielona obligacja. Niniejszy wniosek wpisuje się w dotychczasowe unijne działania z zakresu zrównoważonego finansowania i stanowi część szerszej agendy Komisji w tym zakresie.</u>
<u xml:id="u-17.3" who="#PiotrPatkowski">W szerokim ujęciu projektowane rozporządzenie przewiduje fakultatywny standard dla europejskich zielonych obligacji powiązanych z 6 celami środowiskowymi, o których mowa w unijnym rozporządzeniu w sprawie systematyki, standardy w zakresie dokumentacji przygotowywanej przez emitentów europejskich zielonych obligacji przed i po emisji, obowiązek kontroli zewnętrznych spełniania przez obligacje oznaczenia jako europejskie zielone obligacje warunków określonych w standardzie, obowiązek rejestracji kontrolerów zewnętrznych w Europejskim Urzędzie Nadzoru Giełd i Papierów Wartościowych oraz odpowiednie wymagania organizacyjne odnoszące się do prowadzonej przez nich działalności i nadanie organom nadzoru i Europejskiemu Urzędowi Nadzoru Giełd i Papierów Wartościowych dodatkowych uprawnień nadzorczych w odniesieniu do kontrolerów zewnętrznych oraz emitentów zielonych obligacji.</u>
<u xml:id="u-17.4" who="#PiotrPatkowski">Rząd co do zasady popiera rozwiązania zaprezentowane w przedmiotowym wniosku Komisji, w szczególności rząd dostrzega potrzebę opracowania jednolitych harmonijnych standardów dla zielonych obligacji. Przewidziane w przedmiotowym wniosku rozwiązania powinny przyczynić się do zwiększania wolumenu europejskich zielonych obligacji, zmniejszania asymetrii informacji, a tym samy zwiększania transparentności tego segmentu rynku. Rozporządzenie to powinno również mieć korzystny wpływ na zwiększenie roli prywatnych podmiotów w finansowaniu procesu transformacji i przyczynić się do promowania wśród podmiotów prywatnych rynku kapitałowego jako miejsca poszukiwania finansowania.</u>
<u xml:id="u-17.5" who="#PiotrPatkowski">Niemniej rząd zauważa, że niektóre ze zmian przewidzianych w projektowanym rozporządzeniu mogą negatywnie wpłynąć na realizację głównego celu. W szczególności niniejsze rozporządzenie przewiduje konieczność powiązania przychodów z emisji europejskich zielonych obligacji w pełni z działalnością zgodną z unijnym rozporządzeniem w sprawie systematyki. Kształt i zakres techniczny kryteriów kwalifikacyjnych, wskazujących, jaka działalność jest zgodna z celami środowiskowymi, zostanie określony dopiero w aktach delegowanych Komisji do rozporządzenia w sprawie systematyki, dlatego też obecnie nie jest możliwa całościowa ocena projektowanego rozporządzenia. Stosowanie przez emitentów standardów określonych w projektowanym rozporządzeniu będzie się wiązać ze zwiększonymi kosztami dla emitentów w związku z koniecznością skorzystania z usług kontrolerów zewnętrznych. Kwestia ta jest szczególnie istotna w przypadku podmiotów z sektora MŚP, co stawia tych emitentów w gorszej pozycji konkurencyjnej niż większe podmioty. W ocenie rządu zasadne są w tym zakresie pewne uproszczenia, aby nie wyłączyć MŚP z możliwości finansowania tymi obligacjami zrównoważonych środowiskowo projektów realizowanych przez te podmioty. Rozwiązania przewidziane w przedmiotowym rozporządzeniu z uwagi na bezpośrednie powiązanie z unijnym rozporządzeniem w sprawie systematyki mogą sprawić, że korzystanie ze standardu europejskich zielonych obligacji przez emitentów długu państwowego może być utrudnione. Unijna systematyka została stworzona pod kątem działalności podmiotów prywatnych, a nie emitentów państwowych, dlatego też konieczne jest wprowadzenie rozwiązań, które w odpowiedni sposób uwzględnią różnicę w tym zakresie. Dziękuję.</u>
</div>
<div xml:id="div-18">
<u xml:id="u-18.0" who="#BogdanKlich">Dziękuję bardzo.</u>
<u xml:id="u-18.1" who="#BogdanKlich">Przekazuję teraz głos panu senatorowi Aleksandrowi Szwedowi z prośbą o przedstawienie projektu stanowiska naszej komisji.</u>
</div>
<div xml:id="div-19">
<u xml:id="u-19.0" who="#AleksanderSzwed">Dziękuję.</u>
<u xml:id="u-19.1" who="#AleksanderSzwed">Panie Przewodniczący! Wysoka Komisjo! Szanowni Goście!</u>
<u xml:id="u-19.2" who="#AleksanderSzwed">Jeśli chodzi o ocenę projektu, to pragnę tutaj tylko dodać, że wnoszone przez Komisję Europejską…</u>
<u xml:id="u-19.3" who="#BogdanKlich">Znowu prośba: troszkę bliżej mikrofonu. Bardzo proszę.</u>
<u xml:id="u-19.4" who="#AleksanderSzwed">Wnoszone przez Komisję Europejską rozwiązania powinny przyczynić się do lepszego wykorzystywania potencjału jednolitego rynku oraz unii rynków kapitałowych, przyczyniając się do osiągnięcia unijnych celów klimatycznych i środowiskowych, zgodnie z postanowieniami porozumienia klimatycznego z Paryża z 2016 r. oraz Europejskim Zielonym Ładem. Jeśli chodzi o zasadę pomocniczości, zaznaczam, że projekt jest zgodny z zasadą pomocniczości.</u>
<u xml:id="u-19.5" who="#AleksanderSzwed">Składam wniosek o przyjęcie stanowiska rządu wraz z uwagami. Dziękuję.</u>
</div>
<div xml:id="div-20">
<u xml:id="u-20.0" who="#BogdanKlich">Rekomendację ze strony pana wiceprzewodniczącego Szweda mamy, mianowicie, aby przyjąć projekt aktu prawnego wraz z uwagami rządu. To powtarzam, żebyśmy wszyscy wiedzieli.</u>
<u xml:id="u-20.1" who="#BogdanKlich">Czy ktoś z pań i panów senatorów ma jakieś pytania, uwagi, głosy w dyskusji w tej sprawie? Nie. A zdalnie? Również nie. Rozumiem, że sprawa jest jasna.</u>
<u xml:id="u-20.2" who="#BogdanKlich">W związku z tym pytam, czy są jakieś inne propozycje w kwestii naszego stanowiska. Nie widzę zgłoszeń.</u>
<u xml:id="u-20.3" who="#BogdanKlich">Rozumiem, że w takim razie komisja popiera projekt procedowanego aktu prawnego wraz z uwagami rządu. Takie jest stanowisko komisji w tej sprawie i takie stanowisko zostało zaakceptowane przez komisję.</u>
<u xml:id="u-20.4" who="#BogdanKlich">Proszę państwa, mamy punkt trzeci: akty nieustawodawcze, w sprawie których nie będziemy występować o stanowisko rządu, tak jak zaproponowało prezydium. Odczytam je dla porządku: COM(2021) 317, 318, 319, 320, 387, 406, 468, 472, 478, 479, 491, 492, 495, 534, 537, 545, 548 i 593.</u>
<u xml:id="u-20.5" who="#BogdanKlich">Ponieważ prezydium jest w pełni reprezentowane, rozumiem, że zaakceptujemy to stanowisko.</u>
<u xml:id="u-20.6" who="#BogdanKlich">Czy akceptujemy to, aby w sprawie tych aktów prawnych nie występować o przedstawienie stanowiska rządu? Tak.</u>
<u xml:id="u-20.7" who="#BogdanKlich">Świetnie. Takie stanowisko przyjmujemy.</u>
<u xml:id="u-20.8" who="#BogdanKlich">W związku z tym niniejszym państwa informuję, że porządek obrad został wyczerpany.</u>
<u xml:id="u-20.9" who="#BogdanKlich">Zanim zamknę posiedzenie, chciałbym serdecznie zaprosić na jutrzejsze poranne posiedzenie komisji, na którym będziemy się spotykać z ambasadorami Portugali oraz Słowenii, będziemy słuchać sprawozdania z prezydencji portugalskiej z ubiegłego półrocza i będziemy słuchać o priorytetach obecnej prezydencji, prezydencji słoweńskiej w Unii Europejskiej. Naszym gościem będzie pan minister Konrad Szymański, który będzie prezentował stanowisko rządu.</u>
<u xml:id="u-20.10" who="#BogdanKlich">W piątek w godzinach porannych, jeśli dobrze pamiętam, o godzinie 9.00, rozpoczniemy drugi dzień posiedzenia Senatu od informacji rządu na temat tego, co wydarzyło się w ciągu ubiegłego półrocza w Unii Europejskiej, czyli w czasie prezydencji portugalskiej.</u>
<u xml:id="u-20.11" who="#BogdanKlich">Dziękuję państwu bardzo za uczestnictwo.</u>
<u xml:id="u-20.12" who="#Gloszsali">Dziękujemy.</u>
<u xml:id="u-20.13" who="#BogdanKlich">Zamykam posiedzenie komisji.</u>
<u xml:id="u-20.14" who="#komentarz">Koniec posiedzenia o godzinie 16 minut 49</u>
</div>
</body>
</text>
</TEI>
</teiCorpus>