AI Mental Health Support and the Case for Distributed Networked Regulation
وقتی یک چتبات عمومی، همراه هوش مصنوعی یا اپلیکیشن سلامت روان در پاسخ به اضطراب، تنهایی یا افکار آسیبزننده کاربر وارد گفتوگو میشود، مرز میان محصول مصرفی، ابزار درمانی و ارائهدهنده توصیه سلامت بهسرعت مبهم میشود. کتاب «پشتیبانی سلامت روان با هوش مصنوعی و دفاع از تنظیمگری شبکهای توزیعشده» این قلمرو مبهم را از منظر حقوق، ایمنی، حفاظت از دادهها و مسئولیت نهادهای مختلف بررسی میکند.
بحث کتاب با ابزارهایی آغاز میشود که بهطور اختصاصی برای مدیتیشن، پایش خلق، درمان شناختیرفتاری یا پشتیبانی روانی طراحی شدهاند. نویسنده سپس نشان میدهد که این بازار دیگر به «تراپیباتها» محدود نیست؛ بسیاری از کاربران برای دریافت حمایت عاطفی یا توصیههای مرتبط با سلامت روان به همراهان هوش مصنوعی و چتباتهای مولد عمومی مراجعه میکنند.
این تفاوت از نظر تنظیمگری اهمیت زیادی دارد. یک محصول ممکن است خود را ابزار سلامت معرفی کند، درحالیکه محصولی دیگر بدون ادعای تخصص پزشکی، در عمل پاسخهایی ارائه دهد که کاربر آنها را مانند توصیه یک درمانگر تفسیر میکند.
یکی از محورهای اصلی اثر، فاصله میان ادعاهای تبلیغاتی و شواهد واقعی درباره اثربخشی، ایمنی و پایداری ابزارهای مستقیم به مصرفکننده است. کتاب توضیح میدهد که سرعت تحول فناوری معمولاً از سرعت انجام کارآزماییهای بالینی و ارزیابیهای رسمی بیشتر است.
در چنین شرایطی، کاربران ممکن است با سامانههایی تعامل کنند که پاسخهای آنها از نظر بالینی اعتبار کافی ندارند، اما به دلیل لحن همدلانه، شخصیسازی ظاهری یا دسترسی دائمی، قابلاعتماد به نظر میرسند. نبود نظارت مستقیم متخصص سلامت روان، این مسئله را پیچیدهتر میکند.
تحلیل کتاب حول چهار حوزه اصلی سازمان یافته است:
دادههایی که در گفتوگوهای سلامت روان تولید میشوند میتوانند بسیار حساس باشند. شخصیسازی خدمات نیز معمولاً به جمعآوری و پردازش همین دادهها وابسته است. از این رو، مسئله تنها درست یا نادرستبودن پاسخ چتبات نیست، بلکه نحوه ذخیره، استفاده، انتقال و بهرهبرداری تجاری از اطلاعات کاربر نیز اهمیت دارد.
ابزارهای سلامت روان مبتنی بر هوش مصنوعی ممکن است همزمان با مقررات تجهیزات پزشکی، قوانین حفاظت از داده، ایمنی آنلاین، حقوق مصرفکننده و قواعد عمومی هوش مصنوعی ارتباط داشته باشند. بااینحال، بسیاری از این حوزهها بهصورت جداگانه و در قالب «سیلوهای تنظیمگری» فعالیت میکنند.
نویسنده استدلال میکند که تلاش برای یافتن یک قانون جامع یا یک نهاد ناظر واحد، پاسخ واقعبینانهای برای فناوریهایی نیست که کاربرد، طراحی و رفتار کاربران آنها بهسرعت تغییر میکند.
راهکار پیشنهادی کتاب، نگاهکردن به قوانین، نهادهای ناظر و گروههای حرفهای بهعنوان اجزای یک شبکه تنظیمگری است. در این مدل، هر گره شبکه بخشی از خطر را مدیریت میکند و همکاری میان نهادهای مختلف جایگزین انتظار برای یک راهحل واحد میشود.
این شبکه تنها از دولت و قانونگذاران تشکیل نمیشود. متخصصان سلامت روان، انجمنهای حرفهای، توسعهدهندگان فناوری، سازمانهای حمایت از مصرفکننده و افرادی که تجربه زیسته مشکلات روانی دارند نیز باید در شکلدادن به استانداردها، ارزیابی خطر و نظارت بر محصولات نقش داشته باشند.
ماهیت «توزیعشده» این مدل به معنای آن است که مسئولیت و مداخله در نقاط مختلف شبکه قرار میگیرد و هر نهاد، متناسب با نوع خطر و مرحله استفاده از فناوری، واکنش مناسب خود را ارائه میدهد.
این اثر یک راهنمای درمان بالینی یا کتاب آموزش رواندرمانی نیست. مخاطبان اصلی آن پژوهشگران حقوق و سیاستگذاری هوش مصنوعی، متخصصان اخلاق فناوری، مدیران محصولات سلامت دیجیتال، نهادهای تنظیمگر، کارشناسان حمایت از مصرفکننده و پژوهشگران سلامت روان دیجیتال هستند.
روانپزشکان، روانشناسان و مدیران مراکز سلامت نیز میتوانند از کتاب برای شناخت ریسکهای حقوقی و نهادی ابزارهایی استفاده کنند که بیماران، گاهی بدون اطلاع یا نظارت درمانگر، برای دریافت حمایت روانی به آنها مراجعه میکنند.
قالب فشرده Cambridge Element سبب شده است کتاب بهجای ارائه بحثی بسیار گسترده، مسئلهای مشخص و روزآمد را با چارچوبی روشن دنبال کند: چگونه میتوان از مزایای احتمالی هوش مصنوعی در سلامت روان استفاده کرد، بدون آنکه ایمنی، حریم خصوصی و حقوق کاربران در شکاف میان نهادهای مختلف نادیده گرفته شود؟
پروفسور جینی ماری پترسون استاد حقوق با تمرکز بر حمایت از مصرفکننده در Melbourne Law School و از بنیانگذاران Centre for Artificial Intelligence and Digital Ethics در دانشگاه ملبورن است. پژوهش و تدریس او بر حمایت از مصرفکننده، حفاظت از دادهها و طراحی...
