Google AI Policy: Jesteśmy Ditching Project Maven, ale nie federalny

Po rezygnacji z udziału w projekcie Pentagonu, Google zobowiązuje się nigdy nie rozwijać technologii sztucznej inteligencji, które można wykorzystać do wojny lub nadzoru.
Nowa polityka rozwoju sztucznej inteligencji opracowana przez Google koncentruje się na odpowiedzialnym rozwoju technologii i ograniczaniu wszelkich potencjalnych nadużyć w biznesie.
Żadna technologia Google AI nigdy nie będzie używana jako broń ani do nadzoru, stwierdza polityka. Ponadto firma odmówi opracowania projektów sztucznej inteligencji, które "powodują lub mogą spowodować globalne szkody". Tylko wtedy, gdy korzyści "znacznie przewyższają ryzyko", firma przystąpi do działania, ale z zachowaniem obowiązujących zabezpieczeń.
Polityka ta przychodzi, gdy pracownicy Google lobbowali na rzecz giganta technologicznego, aby anulować jego ciągłe zaangażowanie w projekt Maven, wysiłek Pentagonu na wykorzystanie sztucznej inteligencji do analizy zdjęć lotniczych z dronów. Firma twierdziła, że ​​wyszukiwanie było "dla celów nie ofensywnych", ale niektórzy pracownicy obawiali się, że pewnego dnia może zostać użyty w prawdziwej wojnie. W odpowiedzi rozesłali wewnętrzny list, stwierdzając, że "Google nie powinno być w wojnie".
Odporność na projekt Maven była na tyle poważna, że ​​co najmniej tuzin pracowników zrezygnowało z protestu. Aby uspokoić pracowników, Google obiecał nową politykę etyczną dotyczącą rozwoju sztucznej inteligencji, którą firma upubliczniła w czwartek.
Dyrektor zarządzająca Google Cloud Diane Green potwierdził, że firma nie będzie dążyć do przedłużenia umowy z rządem na projekt Maven. Jednak nowa polityka etyki AI nie anuluje udziału Google w Pentagonie. Daleko od tego.
"Chcemy jasno powiedzieć, że nie rozwijamy sztucznej inteligencji dla broni, ale nadal będziemy współpracować z rządami i wojskiem w wielu innych dziedzinach" - powiedział dyrektor generalny Google, Sundar Pichai.
"Obejmuje to cyberbezpieczeństwo, szkolenia, rekrutację wojskową, opiekę zdrowotną weteranów oraz poszukiwania i ratownictwo" - dodał. "Współpraca ta jest ważna i będziemy aktywnie szukać innych sposobów zwiększenia krytycznej pracy tych organizacji i utrzymania bezpieczeństwa wojskowych i cywilów".
Jeśli gigant technologiczny może zapobiec zmilitaryzowaniu technologii (lub nawet jeśli jest to fałsz), będzie przedmiotem debaty. Ale nowa polityka ustanawia także mapę drogową dla rozwoju sztucznej inteligencji Google. Na przykład sztuczna inteligencja firmy zostanie zbudowana i przetestowana pod kątem bezpieczeństwa; będą również zaprojektowane z myślą o prywatności, ukłon w stronę kontrowersji wokół Google Duplex, przyszłej funkcji asystenta głosowego firmy, która może zachęcić ludzi do myślenia o ludziach , Zgodnie z nową polityką technologie AI Google zapewnią "możliwość powiadomienia i zgody".
"Chociaż w ten sposób decydujemy się na podejście do sztucznej inteligencji, rozumiemy, że w tej rozmowie jest miejsce dla wielu głosów" - dodał Pichai w swoim blogu. "Wraz z postępem technologii AI będziemy współpracować z szeregiem interesariuszy, aby promować przywództwo myślowe w tym obszarze.