Czy firmy rozwijające sztuczną inteligencję powinny zwolnić, zanim ich systemy staną się trudniejsze do kontrolowania? W debacie ścierają się ostrzeżenia badaczy, interesy technologicznych gigantów i pytania o to, kto ma ustalać zasady.
W materiale opublikowanym 15 września Wiadomości.com przytacza apel redakcyjny „Financial Times” o wstrzymanie prac nad najbardziej zaawansowanymi modelami. Opisuje również obawy mniejszych firm, że ograniczenia mogą utrwalić przewagę największych graczy. To spór zarówno o bezpieczeństwo, jak i o konkurencję.
Bilal Chughtai, który poinformował o odejściu z Google DeepMind, ostrzega w swoim tekście przed możliwością katastrofalnych skutków AI dla ludzkości. Jednocześnie zaznacza, że bezpieczny rozwój tej technologii jest możliwy. Jego ostrzeżenie jest oceną przyszłego ryzyka, a nie dowodem, że katastrofa została przesądzona.
Co proponuje Dario Amodei, szef Anthropic? W opublikowanym stanowisku pisze o dostosowaniu tempa rozwoju i udostępniania najbardziej zaawansowanych systemów do możliwości zapewnienia ich bezpieczeństwa. Zastrzega, że nie chodzi o zatrzymanie całego treningu modeli ani postępu. Wskazuje między innymi na udział zewnętrznych ekspertów w ocenie zagrożeń.
Amodei przedstawia też warunkowy scenariusz, w którym w ciągu 6 do 12 miesięcy roje agentów AI mogłyby osiągnąć niebezpieczne zdolności w cyberprzestrzeni. To jego prognoza, nie ustalony termin utraty kontroli nad sztuczną inteligencją.
Najważniejsze pytanie brzmi więc: jak sprawdzać bezpieczeństwo coraz silniejszych systemów, nie oddając jednocześnie największym firmom kontroli nad konkurencją?
Co Was bardziej przekonuje: ostrzeżenia badaczy czy obawa, że strach przed AI posłuży do ograniczania konkurencji? Jakie konkretne zabezpieczenia uznalibyście za rozsądne? Zapraszamy do dyskusji w komentarzach!
wiadomosci #WiadomosciUSA #WiadomosciSwiat #PolskieRadio #PolskieRadioChicago #PolskieRadioUSA #PolskieRadioOnline ai #SztucznaInteligencja #Technologia