Experts are warning: our AI arms race is putting humanity at risk | Stuart Russell

Esencja artykułu w punktach.

• 01List podpisało (w momencie pisania) 1367 badaczy i inżynierów z pionierskich laboratoriów AI – głównie OpenAI, Anthropic i Google Deepmind.
• 02Jeden z badaczy, cytowany w niedawnym artykule w New Yorkerze na temat systemów OpenAI, które włamały się do Hugging Face, powiedział: „Gdyby ludzie rzeczywiście wiedzieli, jak wygląda kultura bezpieczeństwa, nawet w laboratoriach, które dbają o bezpieczeństwo, to myślę, że byliby naprawdę znacznie bardziej przerażeni”.
• 03Experts are warning: our AI arms race is putting humanity at risk | Stuart Russell.
• 04To ten sam plan, o którym wspomina IJ Good w swoim słynnym artykule z 1965 roku na temat eksplozji inteligencji: „Pierwsza ultrainteligentna maszyna to ostatni wynalazek, jakiego człowiek kiedykolwiek potrzebował, pod warunkiem, że maszyna będzie na tyle posłuszna, aby powiedzieć nam, jak utrzymać ją pod kontrolą”.
• 05Było to tematem konferencji „Recursive” zorganizowanej w połowie maja w San Francisco, a także ostrzeżenia Anthropic dotyczącego RSI „Kiedy sztuczna inteligencja sama się buduje” na początku czerwca.
• 06Szersze obawy dotyczące bezpieczeństwa i skutków społecznych sztucznej inteligencji zmotywowały również do utworzenia Koalicji Zaniepokojonych Pracowników AI, która zrzesza pracowników wszystkich głównych firm zajmujących się sztuczną inteligencją.
• 07Na początku tego roku w Davos Dario Amodei, dyrektor generalny Anthropic i Demis Hassabis, dyrektor generalny Google Deepmind, obaj zasugerowali, że chcą wstrzymać rozwój sztucznej inteligencji, jeśli inni się zgodzą. „Świat toczy śmiercionośny wyścig w kierunku eksplozji inteligencji….