ხელოვნური ინტელექტის ინდუსტრიაში საფრთხეებზე საუბარი ახალი არ არის, თუმცა ბოლო დროს დისკუსიამ უჩვეულოდ მწვავე ფორმა მიიღო. მთავარ კითხვად ისევ რჩება, შეიძლება თუ არა AI კაცობრიობისთვის ეგზისტენციალურ საფრთხედ იქცეს – და რამდენად რეალისტურია ის ყველაზე მძიმე სცენარები, რომლებზეც თავად ინდუსტრიის წარმომადგენლები საუბრობენ.
დისკუსია მას შემდეგ გააქტიურდა, რაც AI-ს მკვლევარმა, ჯეიკობ კოქსონმა Anthropic-ის დატოვების შესახებ განაცხადა. მისი თქმით, გადაწყვეტილება განაპირობა შიშმა, რომ წამყვანი AI-კომპანიები ახალი ტექნოლოგიის განვითარებისას „ადამიანების სიცოცხლით თამაშობენ“. ამ განცხადებას მალევე გამოეხმაურა Anthropic-ის AI Alignment-ის მიმართულების ხელმძღვანელი და დაწერა, რომ კომპანია ნამდვილად მიიჩნევს AI-ს კაცობრიობის განადგურების პოტენციურ საფრთხედ.
საკითხი ცნობილი გამოცემის, TechCrunch-ის Equity პოდკასტის ბოლო ეპიზოდშიც განიხილეს. საუბრისას ერთ-ერთი მთავარი კითხვა სწორედ ის იყო, რამდენად რეალურია ეს შიში და რამდენად შეიძლება მსგავსი განცხადებები თავად AI-კომპანიების ინტერესებსაც ემსახურებოდეს.
დისკუსიაში კიდევ ერთი საინტერესო მოსაზრება გაჩნდა: ხომ არ იყენებენ AI-კომპანიები საკუთარი ტექნოლოგიების საფრთხეებზე საუბარს იმის საჩვენებლად, თუ რამდენად გაძლიერდა მათი მოდელები?
გამოითქვა ვარაუდიც, რომ AI-აგენტების მოულოდნელ ქცევაზე, უსაფრთხოების პრობლემებსა და კაცობრიობისთვის შესაძლო საფრთხეებზე საუბრის მიზეზი სწორედ ეს ირიბი გზავნილი შეიძლება იყოს. თუ მოდელი არც ისე ძლიერი და შეზღუდული შესაძლებლობებისა იქნებოდა, ამ მასშტაბის რისკებზეც ნაკლებად მოგვიწევდა საუბარი. შესაბამისად, ფრაზა „ჩვენს AI-ს კაცობრიობის განადგურება შეუძლია“ გარკვეულწილად შეიძლება ირიბ ტრაბახადაც აღიქმებოდეს, როგორც იმის დემონსტრირება, რომ კომპანიამ ძალიან ძლიერი ტექნოლოგია შექმნა.
IPO-ს (Initial Public Offering) წინ ასეთი განცხადებები განსაკუთრებით საინტერესო ხდება
დებატებს კიდევ ერთი მნიშვნელოვანი კონტექსტი აქვს ⁻ Anthropic-ის შესაძლო IPO. კომპანიის საჯარო განცხადებები იმის შესახებ, რომ მის ტექნოლოგიას კაცობრიობისთვის უკიდურესად მძიმე შედეგების გამოწვევა შეუძლია, განსაკუთრებით საინტერესო ხდება მაშინ, როდესაც კომპანია საფონდო ბირჟაზე გასასვლელად ემზადება.
ტრადიციულ საინვესტიციო გარემოში მსგავსი რისკის არსებობის აღიარება კომპანიის შეფასებაზე უარყოფითად უნდა მოქმედებდეს: თუ თავად კომპანია ამბობს, რომ მის ტექნოლოგიას კაცობრიობისთვის სერიოზული საფრთხის შექმნა შეუძლია, ეს ბიზნესრისკადაც უნდა ჩაითვალოს.
თუმცა AI-ინდუსტრია ჩვეულებრივი ბიზნესგარემო აღარ არის. შესაძლოა, ტექნოლოგიის უკიდურესი შესაძლებლობებისა და პოტენციური საფრთხის ხაზგასმა ინვესტორებისთვის ერთგვარი სიგნალი იყოს იმისა, რომ კომპანია ისეთი მასშტაბის ტექნოლოგიას ქმნის, რომელსაც ინდუსტრიის შეცვლა შეუძლია.
ყველაზე დიდი საფრთხე
დებატების მეორე მხარე გაცილებით პრაქტიკულ კითხვამდე მიდის: თუ AI-ს განვითარების უკიდურესი სცენარები ნამდვილად გვაშფოთებს, რა შეგვიძლია გავაკეთოთ ამის თავიდან ასაცილებლად?
მარტივი პასუხი ამ კითხვაზე არავის აქვს, თუმცა მთავარი მნიშვნელოვანი საკითხი თავად AI-კომპანიების კონტროლის უნარია. ბოლო პერიოდში სულ უფრო ხშირად ჩნდება შემთხვევები, როდესაც AI-აგენტები ისეთი ქმედებების შესრულებას იწყებენ, რომლებსაც მათი შემქმნელები სრულად არ ელოდნენ. თუ კომპანიები საკუთარ მოდელებზე კონტროლს კარგავენ, ეს უკვე რეალური და დაუყოვნებელი პრობლემაა.
ასევე, საუბარია სამუშაო ადგილებზე მის გავლენაზე, შრომის ბაზრის ცვლილებაზე, გარემოზე, კლიმატზე ზემოქმედებაზე და სხვა უფრო ხელშესახებ შედეგებზე.
ამ ყველაფერზე ერთდროულად უნდა ვიმსჯელოთ და AI-ს განვითარების დასარეგულირებლად შესაბამისი დაცვის მექანიზმებიც შევქმნათ.
საბოლოოდ, AI-ის გარშემო არსებული ყველაზე ხმამაღალი კითხვაც სწორედ ეს არის: რამდენად უნდა გვეშინოდეს იმის, რაც AI-მ შესაძლოა მომავალში გააკეთოს და რამდენად მეტი ყურადღება უნდა მივაქციოთ იმას, რასაც ის ახლა აკეთებს?
AI-ს გავლენა დასაქმებაზე, გარემოზე, ინფორმაციასა და ყოველდღიურ ცხოვრებაზე უკვე რეალობაა. ამიტომ ტექნოლოგიის განვითარების შეფასებისას, შესაძლოა, საჭირო იყოს არა მხოლოდ ყველაზე კატასტროფული სცენარების წარმოდგენა, არამედ იმ რისკების მართვაც, რომლებიც ჩვენ წინაშე უკვე დგას.
