Kalifornijscy prawodawcy głosują nad ustawą o bezpieczeństwie sztucznej inteligencji wśród sprzeciwu firm technologicznych

Ustawa Senatu Kalifornii nr 1047, której autorem jest senator stanu Scott Wiener, byłaby pierwszą tego rodzaju ustawą w Stanach Zjednoczonych, która wymagałaby od firm zajmujących się sztuczną inteligencją budowania wielkoskalowych modeli w celu przetestowania ich pod kątem bezpieczeństwa.

Podczas tej sesji kalifornijscy prawodawcy rozważają dziesiątki ustaw związanych ze sztuczną inteligencją. Jednak propozycja Weinera, zatytułowana „Ustawa o bezpiecznych i bezpiecznych innowacjach dla wiodących paradygmatów sztucznej inteligencji”, przyciągnęła uwagę całego kraju ze względu na ostry sprzeciw ze strony Doliny Krzemowej, głównego bastionu rozwoju sztucznej inteligencji w Stanach Zjednoczonych. Przeciwnicy twierdzą, że nałożenie uciążliwych wymagań technologicznych i potencjalnych kar w Kalifornii zdusiłoby innowacje i globalną konkurencyjność kraju.

OpenAI to najnowszy twórca sztucznej inteligencji, który wyraża swój sprzeciw i argumentuje W wiadomości w środę uważa, że ​​regulację sztucznej inteligencji należy pozostawić rządowi federalnemu i twierdzi, że firmy opuszczą Kalifornię, jeśli proponowane przepisy zostaną przyjęte.

W stanowym Zgromadzeniu Ustawodawczym odbędzie się teraz głosowanie nad projektem ustawy, który… Zwycięzca został niedawno zmodyfikowany W odpowiedzi na krytykę branży technologicznej stwierdził, że nowy język nie odpowiada na wszystkie kwestie podnoszone przez branżę.

„To rozsądna i lekka ustawa, która w żaden sposób nie przeszkodzi innowacjom, ale pomoże nam przezwyciężyć ryzyko towarzyszące każdej potężnej technologii” – powiedział Weiner reporterom podczas poniedziałkowej konferencji prasowej.

Co zmieni projekt ustawy?

Ustawa nakłada na firmy tworzące duże modele sztucznej inteligencji, których wyszkolenie kosztuje ponad 100 milionów dolarów, obowiązek ograniczenia wszelkich znaczących zagrożeń w systemie wykrytych za pomocą testów bezpieczeństwa. Obejmuje to stworzenie możliwości „pełnego wyłączenia” lub sposobu na odłączenie potencjalnie niebezpiecznego modelu w katastrofalnych okolicznościach.

Deweloperzy będą również zobowiązani do stworzenia planu technicznego uwzględniającego zagrożenia bezpieczeństwa i zachowania kopii tego planu tak długo, jak formularz będzie dostępny, plus pięć lat. Firmy takie jak Google, Meta i OpenAI prowadzą już znaczące operacje związane ze sztuczną inteligencją Dobrowolne zobowiązania Możliwe jest, że administracja Bidena przejmie odpowiedzialność za zarządzanie ryzykiem związanym ze sztuczną inteligencją, ale ustawodawstwo Kalifornii nałożyłoby obowiązki prawne i wykonawcze w odniesieniu do tych obowiązków.

Co roku niezależny audytor ocenia zgodność działania firmy z prawem. Ponadto firmy mają obowiązek dokumentować przestrzeganie prawa i zgłaszać wszelkie zdarzenia związane z bezpieczeństwem kalifornijskiemu prokuratorowi generalnemu. Biuro Prokuratora Generalnego może nałożyć kary cywilne w wysokości do 50 000 dolarów za pierwsze naruszenia i dodatkowe 100 000 dolarów za kolejne naruszenia.

Jaka jest krytyka?

Duża część branży technologicznej skrytykowała proponowaną ustawę jako zbyt uciążliwą. Anthropic, popularna firma zajmująca się sztuczną inteligencją, reklamująca się jako firma skupiająca się na bezpieczeństwie, argumentowała, że ​​wcześniejsza wersja przepisów stworzyłaby złożone obowiązki prawne, które hamowałyby innowacje w zakresie sztucznej inteligencji, takie jak możliwość wniesienia skargi przez prokuratora generalnego Kalifornii z powodu zaniedbania, nawet jeśli nie. Następuje katastrofa związana z bezpieczeństwem.

OpenAI zasugerowało, że firmy opuszczą Kalifornię, jeśli ustawa zostanie przyjęta, aby uniknąć jej wymagań. Nalegała również, aby regulacje dotyczące sztucznej inteligencji pozostawiono Kongresowi, aby zapobiec wprowadzaniu mylącego zestawu przepisów w poszczególnych stanach.

Zwycięzca Odpowiedziała Komisja Spraw Zagranicznych Senatu USA określiła pomysł ucieczki firm z Kalifornii jako „uciążliwy argument”, zauważając, że postanowienia ustawy nadal miałyby zastosowanie do firm świadczących usługi na rzecz mieszkańców Kalifornii, nawet jeśli nie ma tam ich siedziby.

W zeszłym tygodniu ogłosiło to ośmiu członków Kongresu USA pragnienie Gubernator Gavin Newsom zawetuje ustawę Senatu nr 1047 ze względu na obowiązki, które nałożyłaby na firmy tworzące i wykorzystujące sztuczną inteligencję. Przedstawicielka Nancy Pelosi dołączyła do swoich kolegów z opozycji, dzwonić Decyzja ta ma „dobre intencje, ale jest nieprzemyślana” (Weiner przygląda się stanowisku emerytowanej spikerki Izby Reprezentantów, co może w przyszłości oznaczać konieczność starcia z jej córką, Christine Pelosi, Według „Polityki”..)

Pelosi i członkowie Kongresu stoją po stronie „matki chrzestnej sztucznej inteligencji”, dr Vivi Li, informatyki na Uniwersytecie Stanforda i byłej badaczki Google. W niedawnym artykule Lee stwierdził, że ustawodawstwo „zaszkodzi naszemu powstającemu ekosystemowi sztucznej inteligencji”, zwłaszcza mniejszym programistom, którzy „już znajdują się w niekorzystnej sytuacji w porównaniu z dzisiejszymi gigantycznymi firmami technologicznymi”.

Co mówią zwolennicy?

Projekt ustawy uzyskał wsparcie wielu startupów z zakresu sztucznej inteligencji. Współzałożyciel firmy Notion Simon Last oraz „ojcowie chrzestni” sztucznej inteligencji, Yoshua Bengio i Geoffrey Hinton. Bengio stwierdził, że nowe przepisy będą „pozytywnym i rozsądnym krokiem” w kierunku zwiększenia bezpieczeństwa sztucznej inteligencji, przy jednoczesnym zachęcaniu do innowacji.

Bez odpowiednich środków bezpieczeństwa zwolennicy projektu obawiają się, że tragiczne konsekwencje nienadzorowanej sztucznej inteligencji mogą stanowić zagrożenia egzystencjalne, takie jak zwiększone ryzyko dla infrastruktury krytycznej i tworzenie broni nuklearnej.

Weiner bronił swojego „prostego, zdroworozsądkowego” ustawodawstwa, zauważając, że wymagałoby ono przyjęcia środków bezpieczeństwa jedynie od największych firm zajmujących się sztuczną inteligencją. Pochwalił także przywództwo Kalifornii w zakresie amerykańskiej polityki technologicznej, budząc wątpliwości, czy Kongres przyjmie w najbliższej przyszłości jakiekolwiek merytoryczne przepisy dotyczące sztucznej inteligencji.

„Kalifornia wielokrotnie wkraczała, aby chronić naszych mieszkańców i wypełnić pustkę pozostawioną przez bezczynność Kongresu” – odpowiedział Weiner, zwracając uwagę na brak działań federalnych w zakresie prywatności danych i regulacji dotyczących mediów społecznościowych.

Co dalej?

W swoim ostatnim oświadczeniu na temat projektu ustawy Weiner stwierdził, że najnowsze nowelizacje uwzględniają wiele obaw wyrażanych przez branżę sztucznej inteligencji. Obecna wersja proponuje karę cywilną, a nie karną, jak pierwotnie przewidziano w projekcie ustawy, za okłamywanie rządu. Usuwa także propozycję utworzenia nowego państwowego organu regulacyjnego, który miałby nadzorować modele sztucznej inteligencji.

Antropia powiedziała W liście do Newsoma Korzyści ze zmienionych przepisów prawdopodobnie przewyższają potencjalne szkody dla branży sztucznej inteligencji, a głównymi korzyściami jest przejrzystość wobec opinii publicznej w zakresie bezpieczeństwa sztucznej inteligencji oraz skłonienie przedsiębiorstw do inwestowania w ograniczanie ryzyka. Anthropic pozostaje jednak ostrożny co do możliwości wprowadzenia szerokich ograniczeń i rozszerzonych wymogów w zakresie raportowania.

„Uważamy, że niezwykle istotne jest, abyśmy mieli pewne ramy zarządzania wiodącymi systemami sztucznej inteligencji, które w przybliżeniu spełniają te trzy wymagania” – powiedział gubernatorowi dyrektor generalny Anthropic, Dario Amodei, niezależnie od tego, czy jest to struktura SB-1047, czy nie.

Kalifornijscy prawodawcy mają czas do 31 sierpnia, czyli do końca sesji, na przyjęcie ustawy. Jeśli zostanie zatwierdzony, trafi do gubernatora Gavina Newsoma do ostatecznego zatwierdzenia do końca września. Wojewoda nie podał, czy planuje podpisać ustawę.