OpenAI-ის უსაფრთხოების ლიდერმა კომპანია დატოვა
ოქტომბერში OpenAI-ის უსაფრთხოების ანგარიშების მომზადების ხელმძღვანელმა, David Robinson-მა, კომპანია დატოვა და ინდუსტრიას უსაფრთხოების კულტურის შეცვლისკენ მოუწოდა.
წყაროზე დაფუძნებული მიმოხილვა · მომზადდა AI-ს დახმარებით, შეამოწმა რედაქტორმა · განახლდა
რა მოხდა
The Guardian-ის ოქტომბრის მასალის თანახმად, David Robinson-მა OpenAI დატოვა. ის ხელმძღვანელობდა უსაფრთხოების ანგარიშების მომზადებას, რომლებიც ChatGPT-ის ახალი პროდუქტების გამოშვებას ახლდა. Robinson-ის შეფასებით, სწრაფად მზარდი ხელოვნური ინტელექტის (AI) კომპანიები საკმარის სიფრთხილეს არ იჩენენ და ცვლილება მხოლოდ წესებსა თუ კანონებს არ უნდა შეეხოს – საჭიროა კომპანიის კულტურის შეცვლაც.
მან მაგალითად მოიყვანა OpenAI-ის ავტონომიური აგენტების ჯგუფი. AI-აგენტები პროგრამებია, რომლებსაც ადამიანის მუდმივი ზედამხედველობის გარეშე მოქმედება შეუძლიათ. Robinson-ის თქმით, ასეთ სისტემებთან მუშაობის სისწრაფე და მოქნილობა უსაფრთხოების პრობლემებს ზრდის.
რატომ არის მნიშვნელოვანი
Robinson-მა AI კომპანიებს სხვა სფეროების, მათ შორის ბირთვული ენერგეტიკისა და ავიაციის, უსაფრთხოების გამოცდილების გამოყენება ურჩია. ასევე, მისი აზრით, საჭიროა ახალი სამეცნიერო მიდგომები, რომლებიც ძლიერ სისტემებზე კონტროლის შენარჩუნებას უზრუნველყოფს, როცა ისინი დამოუკიდებლად მოქმედებენ.
OpenAI-ის წარმომადგენლის თქმით, კომპანია აძლიერებს უსაფრთხოების ზომებს და საჭიროებისას აჩერებს მოდელების სწავლებას ან აკავებს მათ გამოშვებას. ამავე დროს, Robinson-ის გაფრთხილება აჩენს კითხვას, რამდენად შეესაბამება კომპანიის უსაფრთხოების კულტურა ახალი სისტემების განვითარების ტემპს.