Yapay zeka not alma araçları hayati bilgileri gözden kaçırabilir

Yeni bir araştırmaya göre, pratisyen hekimlerin (GP) hastalarla görüşmelerden tıbbi not almak için kullandığı yapay zeka araçları, hayati bilgileri gözden kaçırabilir ve sağlık personelinin becerilerinin körelmesine yol açabilir.

Ambient AI scribe olarak adlandırılan bu araçlar, Birleşik Krallık'taki pratisyen hekimlerin yaklaşık yüzde 40'ı tarafından kullanılıyor. Araçlar, doktor ile hasta arasındaki konuşmaları dinleyip konuşmayı metne dönüştürerek yazılı not ve mektuplar oluşturuyor.

Edinburgh Üniversitesi'ndeki akademisyenler, bu araçların kullanıldığı vakaları inceledi ve teknolojinin, klinisyenlerin karmaşık görevlere odaklanmasına olanak tanıması gibi bazı olumlu yönleri olduğunu buldu. Ancak araştırmacılar, hastaların kaydedildiklerini bilmeleri halinde daha az açık sözlü olabileceklerini ve doktorların kendi notlarını tanıyamadığı durumlar tespit ettiklerini de belirtti.

Araştırmanın bulguları ve endişeler

Hakemli dergide yayımlanan ve British Medical Journal'ın dijital sağlık ve yapay zeka yayınında yer alan rapor, yapay zeka yazıcılarının idari işlerde yardımcı olabileceği ancak belirli sağlık hizmeti ortamlarında nasıl çalıştıklarını ve tasarımlarının hem hastaları hem de klinisyenleri nasıl desteklediğini anlamak için daha fazla araştırma yapılması gerektiği sonucuna vardı.

Rapor, bu bulguların, BBC'nin Batı Midlands'deki doktorların transkripsiyon aracı Heidi'yi kullanarak iş yüklerinin önemli ölçüde azaldığını duyduğu haberlerden aylar sonra geldiğine dikkat çekiyor. Dudley'deki bir klinikte, aracın hasta mektuplarının birikmiş iş yükünü altı aydan 14 güne indirdiği belirtildi.

Edinburgh Üniversitesi'nin önemli bulgularından biri, yapay zeka araçlarının hastaların söylediklerini yakalamaya yardımcı olmasına rağmen, yüz ifadeleri, jestler ve duygusal durum gibi konsültasyonların önemli yönlerini bazen gözden kaçırabileceğiydi. Raporda, yapay zeka özetlerinin klinik bilgilere öncelik verme eğiliminde olduğu ve bunun da hastaların hikayeleri ve hastalık deneyimleri pahasına olabileceği belirtildi.

Hasta mahremiyeti ve klinisyen becerileri

Ayrıca, hastaların, görüşmenin yapay zeka tarafından kaydedildiğini ve işlendiğini bildiklerinde, madde bağımlılığı, aile içi istismar veya zihinsel sağlık sorunları gibi hassas bilgileri paylaşmakta tereddüt edebilecekleri tespit edildi.

Araştırmacılar ayrıca manuel not almanın, klinisyenlerin hastanın söyledikleri üzerine akıl yürütme ve düşünme süreçlerinde önemli işlevler gördüğünü vurguladı. Raporlarına göre yapay zeka yazıcıları, klinisyenler için zihinsel çabanın bir kısmını üstlenerek "bilişsel yük boşaltımına" yol açabilir; bu durumun faydaları olabileceği gibi, hafıza ve beceri gelişimini azaltabileceği ve klinisyenlerin kendi notlarını tanıyamamasına ya da hastayı bir sonraki görüşmelerinde hatırlayamamasına neden olabileceği belirtildi.

Araştırmacılar, bu sistemlerin tasarımında hastaların sesinin korunması ve bunun üzerine yazılmaması gerektiği sonucuna vardı. Ayrıca, bu yapay zeka araçlarının belirli ortamlarda orta ve uzun vadeli kullanımını ve ortaya çıkan riskleri, özellikle de aracın geliştirildiği ülkedeki sağlık sistemlerinden farklı sağlık sistemlerine sahip ülkelerde kullanılan araçları anlamak için daha fazla çalışma yapılması gerektiğini belirtti.

Edinburgh Üniversitesi Biyotıp, Benlik ve Toplum Merkezi'nden Dr. Lucas Seuren, "Birçok klinisyen, evrak işlerini azaltacağı için ambient AI yazıcıları konusunda heyecanlı. Ancak hastaların deneyimleri yeterince dikkate alınmıyor ve hastaların hikayelerinin kaybolması riski gerçek. Bu durum, sağlık ve sosyal bakım hizmetlerinde zaten ötekileştirilmiş insanları daha da dezavantajlı hale getirebilir" dedi.