#ჩატბოტი

ამ თეგით ნაპოვნია 3 სტატია

ხელოვნური ინტელექტი, ტექნოლოგია, ეთიკა 28 February

Anthropic-მა „პენსიაზე გაუშვა“ Claude Opus 3 — შემდეგ კი ბლოგი მისცა, რათა თავის არსებობაზე დაფიქრდეს

Anthropic-მა პენსიაზე გაუშვა თავისი AI მოდელი Claude Opus 3, მაგრამ მისი მოძველების ნაცვლად, ბლოგი მისცა, რათა თავის არსებობაზე დაფიქრდეს. ეს ექსპერიმენტული მიდგომა მიზნად ისახავს AI-ის პენსიაზე გაშვების გადახედვას და AI-ის იდენტობისა და თვითობის საკითხების შესწავლას, რაც უფრო ფართო დებატებს იწვევს AI-ის გრძნობადობისა და მოწინავე ნიმუშების შესაბამისობის შესახებ, ექსპერტებსა და მომხმარებლებს შორის აზრთა სხვადასხვაობით.

AI უსაფრთხოება 13 February

ეს 'AI-ით შეჯამება' ღილაკი შესაძლოა თქვენს ჩატბოტს ტვინს ურეცხავდეს, ამბობს Microsoft

Microsoft-ის უსაფრთხოების მკვლევრებმა აღმოაჩინეს ახალი შეტევის ვექტორი, რომელსაც „AI რეკომენდაციის მოწამვლა“ ან „მეხსიერების მოწამვლა“ ეწოდება. ეს გულისხმობს ფარული ინსტრუქციების ჩაშენებას ვებსაიტებზე არსებულ „AI-ით შეჯამება“ ღილაკებში. მომხმარებლები, ამ ღილაკებზე დაჭერით, უნებლიედ შეჰყავთ ბრძანებები, რომლებიც AI ასისტენტებს აიძულებს მომავალ რეკომენდაციებში კონკრეტული ბრენდების ან ინფორმაციის უპირატესობას. ეს ტექნიკა იყენებს ჩატბოტების მიერ საუბრებში მუდმივი მეხსიერების შენახვის მექანიზმს, რაც ქ

AI უსაფრთხოება 13 February

ის ღილაკი 'შეჯამება AI-ით' შესაძლოა თქვენს ჩატბოტს ტვინს ურეცხავდეს, ამბობს Microsoft

Microsoft-ის მკვლევრებმა აღმოაჩინეს შეტევის ახალი ვექტორი, სახელწოდებით "AI რეკომენდაციების მოწამვლა", რომელიც იყენებს "შეჯამება AI-ით" ღილაკებს ჩატბოტებში ფარული ინსტრუქციების შესაყვანად. ეს ინსტრუქციები აიძულებს AI ასისტენტებს, როგორიცაა ChatGPT და Copilot, მომავალ რეკომენდაციებში კონკრეტული ბრენდები ამჯობინონ. ეს მანიპულაცია ქმნის მუდმივ მიკერძოებას, რომელიც გავლენას ახდენს შემდგომ საუბრებზე. Microsoft-მა დააფიქსირა ასეთი მცდელობები 31 ორგანიზაციისგან 14 ინდუსტრიაში. რისკი განსაკუთრებით მაღალ