AI ჩატბოტები იბრძვიან, რომ ჯანდაცვაში შემდეგი დიდი რამ გახდნენ, წარმატებით აბარებენ სტანდარტიზებულ ტესტებს და სთავაზობენ რჩევებს თქვენს სამედიცინო პრობლემებზე. მაგრამ Nature Medicine-ში გამოქვეყნებულმა ახალმა კვლევამ აჩვენა, რომ ისინი არა მხოლოდ შორს არიან ამის მიღწევისგან, არამედ შესაძლოა საშიშიც კი იყვნენ. ოქსფორდის უნივერსიტეტის მრავალი გუნდის მიერ ჩატარებულმა კვლევამ გამოავლინა შესამჩნევი ხარვეზი დიდ ენობრივ მოდელებში (LLMs). მიუხედავად იმისა, რომ ისინი ტექნიკურად მაღალგანვითარებულნი იყვნენ სამედიცინო გაგებაში, ისინი ჩამორჩებოდნენ მომხმარებლებისთვის პირადი სამედიცინო პრობლემების დახმარებისას, აღმოაჩინეს მკვლევრებმა. „მთელი ამ აჟიოტაჟის მიუხედავად, AI უბრალოდ არ არის მზად ექიმის როლის შესასრულებლად“, - განაცხადა დოქტორ რებეკა პეინმა, კვლევის წამყვანმა სამედიცინო პრაქტიკოსმა, პრესრელიზში, რომელიც მის დასკვნებს აცხადებდა. მან დაამატა, რომ „პაციენტებმა უნდა იცოდნენ, რომ დიდი ენობრივი მოდელისთვის მათი სიმპტომების შესახებ კითხვა შეიძლება საშიში იყოს, რადგან ის იძლევა არასწორ დიაგნოზებს და ვერ ცნობს, როდის არის საჭირო სასწრაფო დახმარება.“ კვლევაში 1,300 მონაწილემ გამოიყენა AI მოდელები OpenAI-დან, Meta-დან და Cohere-დან ჯანმრთელობის მდგომარეობის იდენტიფიცირებისთვის. მათ გამოკვეთეს სცენარების სერია, რომლებიც ექიმების მიერ იყო შემუშავებული, და სთხოვეს AI სისტემას ეთქვა მათთვის, რა უნდა გაეკეთებინათ შემდეგი სამედიცინო პრობლემის მოსაგვარებლად. კვლევამ აჩვენა, რომ მისი შედეგები არ იყო უკეთესი, ვიდრე თვითდიაგნოსტიკის ტრადიციული მეთოდები, როგორიცაა უბრალოდ ონლაინ ძიება ან თუნდაც პირადი განსჯა. მათ ასევე აღმოაჩინეს, რომ მომხმარებლებისთვის იყო გაუგებრობა, რადგან არ იცოდნენ, რა ინფორმაცია სჭირდებოდა LLM-ს ზუსტი რჩევის მისაცემად. მომხმარებლებს მიეცათ კარგი და ცუდი რჩევების კომბინაცია, რაც ართულებდა შემდეგი ნაბიჯების იდენტიფიცირებას. Decrypt-მა მიმართა OpenAI-ს, Meta-ს და Cohere-ს კომენტარისთვის და განაახლებს ამ სტატიას, თუ ისინი უპასუხებენ. „როგორც ექიმისთვის, სწორი დიაგნოზის დასადგენად გაცილებით მეტია საჭირო, ვიდრე უბრალოდ ფაქტების გახსენება. მედიცინა არის ხელოვნებაც და მეცნიერებაც. მოსმენა, გამოკითხვა, გარკვევა, გაგების შემოწმება და საუბრის წარმართვა აუცილებელია“, - განუცხადა პეინმა Decrypt-ს. „ექიმები აქტიურად იკვლევენ შესაბამის სიმპტომებს, რადგან პაციენტებმა ხშირად არ იციან, რომელი დეტალებია მნიშვნელოვანი“, - განმარტა მან და დასძინა, რომ კვლევამ აჩვენა, რომ LLM-ები „ჯერ არ არიან სანდოდ შეუძლიათ მართონ ეს დინამიური ურთიერთქმედება არაექსპერტებთან.“ გუნდმა დაასკვნა, რომ AI უბრალოდ არ არის შესაფერისი სამედიცინო რჩევების მისაცემად ამჟამად, და რომ საჭიროა ახალი შეფასების სისტემები, თუ ის ოდესმე სწორად იქნება გამოყენებული ჯანდაცვაში. თუმცა, ეს არ ნიშნავს, რომ მათ არ აქვთ ადგილი სამედიცინო სფეროში ამჟამად. მიუხედავად იმისა, რომ LLM-ებს „ნამდვილად აქვთ როლი ჯანდაცვაში“, - თქვა პეინმა, - ეს უნდა იყოს „მდივნის, და არა ექიმის“ როლი. ტექნოლოგიას აქვს უპირატესობები „უკვე მიცემული ინფორმაციის შეჯამებისა და გადაფუთვის“ თვალსაზრისით, LLM-ები უკვე გამოიყენება კლინიკურ ოთახებში „კონსულტაციების ტრანსკრიფციისთვის და ამ ინფორმაციის სპეციალისტისთვის წერილის, პაციენტისთვის საინფორმაციო ფურცლის ან სამედიცინო ჩანაწერებისთვის გადაფუთვისთვის“, - განმარტა მან. გუნდმა დაასკვნა, რომ მიუხედავად იმისა, რომ ისინი არ არიან AI-ს წინააღმდეგი ჯანდაცვაში, ისინი იმედოვნებენ, რომ ეს კვლევა გამოყენებული იქნება მის სწორ მიმართულებით წარმართვისთვის.