ჩატბოტების პოპულარულმა პლატფორმამ, Character.AI, უსაფრთხოების ახალი ფუნქციები და პოლიტიკა გამოაქვეყნა იმ ვირტუალური არსებების შესაქმნელად და მათთან ურთიერთობისთვის, რომელსაც ვხვდებით ამ პლატფორმაზე. ეს სიახლე მიზნად ისახავს ვებსაიტის უსაფრთხოებას ყველა მომხმარებლისთვის, განსაკუთრებით კი ახალგაზრდებისთვის. განახლება მოიცავს კონტენტის მეტ მოდერაციასა და AI-ს უკეთ გამოვლენას. ის, ასევე, აკონტროლებს არასრულწლოვანთა კომუნიკაციას ხელოვნურ ინტელექტთან.
ამ გადაწყვეტილებას წინ უძღვის სამწუხარო ამბავი – Character.AI-ის წინააღმდეგ სარჩელი შეიტანა პლატფორმის მომხმარებლის ოჯახმა. ეს იყო 14 წლის მოზარდი, რომელმაც სიცოცხლე თვითმკვლელობით დაასრულა. ის Character.AI-ს ჩატბოტების აქტიური მომხმარებელი იყო. ოჯახი ფიქრობს, რომ კომპანია სათანადოდ ვერ აკონტროლებდა იმ კონტენტს, რასაც თავადვე სთავაზობდა და არ იყო დაცული მოზარდთა უფლებები.
ამ ამბით შეწუხებული Character AI აქვეყნებს პოსტს, სადაც პლატფორმისთვის უსაფრთხოების რამდენიმე ახალ ფუნქციას წარმოადგენს. მათ შორისაა თვითმკვლელობასთან ან თვითდაზიანებასთან დაკავშირებული საკვანძო სიტყვები. თუ მსგავსი ფრაზა გაჟღერდება, მომხმარებელს ამოუხტება ცხელი ხაზისა და დახმარების ცენტრთან დასაკავშირებელი ფანჯარა. გარდა ამისა, პლატფორმა 18 წელს ქვემოთ მყოფი მოზარდებისთვის წაშლის ან დამალავს ისეთ კონტენტს, რომელიც შესაძლოა სენსიტიურად ჩაითვალოს.
კიდევ ერთი ფუნქციაა დროის შეხსენება. თუ თქვენ საათზე მეტი გაატარეთ პლატფორმაზე, ის შეგეკითხებათ, გსურთ თუ არა გააგრძელოთ, რათა გაუფრთხილდეს მომხმარებლის დროს. ასევე, ამიერიდან მომხმარებელს უფრო ხშირად ექნება შეხსენება იმის შესახებ, რომ AI არ არის რეალური პიროვნება. Character.AI-სთვის აქამდე ყოველთვის მნიშვნელოვანი იყო მომხმარებლისთვის რეალურ ადამიანთან ურთიერთობის გამოცდილების შექმნა, თუმცა, როგორც ჩანს, მან ახლა უსაფრთხოება დააყენა მოწინავე პოზიციაზე.
თავის მხრივ, პლატფორმის გუნდი გააკონტროლებს იმ ჩატბოტებს, რომლებსაც პლატფორმაზე თავად მომხმარებლები აწყობენ. ამისთვის კი ინდუსტრიის სტანდარტებსა და ბლოკირებულ სიებს გამოიყენებს, რომლებიც რეგულარულად განახლდება.
