За това предупреди Anthropic, създателят на моделите Claude
Anthropic – създателят на моделите Claude – призовава за глобално забавяне на разработката на най-напредналия изкуствен интелект. Компанията предупреждава, че новите системи показват признаци, че могат да излязат извън човешкия контрол.
В доклад на компанията се посочва, че временна пауза би била полезна, за да може обществото и изследванията за безопасност да догонят технологиите. За да проработи това обаче, водещите компании в САЩ и Китай трябва едновременно да спрат дейност под обща, проверима система. В противен случай, ако спре само един субект, останалите ще продължат напред без ограничения в условия на силен конкурентен и геополитически натиск.
Предложението среща сериозна съпротива във Вашингтон и Силициевата долина. Критиците смятат, че Anthropic преувеличава рисковете и се опитва да забави конкурентите си. Освен това мнозина се опасяват от изоставане спрямо Китай в технологичната надпревара. Междувременно президентът на САЩ Доналд Тръмп обяви, че е обсъдил сигурността на изкуствения интелект при посещение в Пекин. Той подписа и изпълнителна заповед за 30-дневен правителствен преглед на най-мощните американски модели преди пускането им.
Anthropic сравнява координирането на подобна пауза с контрола над ядрените оръжия, но подчертава, че управлението на изкуствения интелект е много по-трудно. Обучението на модели се крие лесно и съществува стимул за тайни разработки. Затова компанията планира срещи с правителства, учени и конкуренти за изграждане на система за сътрудничество.
Призивът идва, тъй като вътрешни данни показват, че изкуственият интелект вече ускорява собственото си развитие. Този процес може да доведе до „рекурсивно самоусъвършенстване“, при което системата подобрява своя интелект без човешка намеса. Макар това да не е неизбежно, то може да се случи по-рано от очакваното. Данните сочат, че човешката роля намалява на всяка стъпка от процеса.
