BMFTR menyediakan hampir ¤2,5 juta untuk mendanai proyek “secureneuroai”, yang melibatkan para peneliti dari Bonn dan Fiz Karlsruhe
Kecerdasan Buatan (AI) dirancang untuk membuat sistem kesehatan kita lebih efisien. Namun serangan cyber tidak hanya mampu membahayakan keselamatan pasien tetapi juga mengganggu perangkat medis dan menghambat pekerjaan responden darurat. Dengan proyek “Secureneuroai”, para peneliti dari University of Bonn, University Hospital Bonn dan Fiz Karlsruhe – Institut Leibniz untuk Infrastruktur Informasi bertujuan untuk mengembangkan metode bertenaga AI yang aman untuk mendeteksi keadaan darurat medis secara real time menggunakan contoh perairan epileptik, meskipun temuan mereka harus berlaku untuk daerah -daerah lain. Kementerian Penelitian, Teknologi dan Ruang Federal (BMFTR) menyediakan hampir ¤2,5 juta dalam pendanaan selama periode tiga tahun.
Semua orang berbicara tentang AI, yang semakin membuat kehadirannya terasa di hampir setiap bidang kehidupan kita-dan bidang perawatan kesehatan yang luas tidak terkecuali. Perangkat dan aplikasi medis yang menggunakan metode AI berpotensi meningkatkan kualitas hidup bagi pasien. Mengintegrasikan AI ke dalam perawatan pasien meningkatkan risiko serangan siber, namun, yang tidak hanya mampu membahayakan keselamatan pasien tetapi juga menghambat pekerjaan responden darurat dan menghentikan perangkat medis untuk berfungsi dengan baik.
Proyek “Secureneuroai” akan menerima hampir ¤2,5 juta dana dari BMFTR selama tiga tahun ke depan. Antara lain, tujuannya adalah untuk mengembangkan metode otentikasi data yang tidak mengganggu pemrosesan data AI, tetapi masih memungkinkan asal informasi ini untuk diverifikasi.
Proyek ini sedang dikoordinasikan oleh Profesor Elena Demidova, Kepala Kelompok Kerja Data Science and Intelligent Systems (DSIS) di University of Bonn dan anggota bidang penelitian “pemodelan” dan “berjangka berkelanjutan”. Kelompok kerja Elena Demidova membawa keahlian AI yang luas untuk proyek tersebut. Juga di atas kapal adalah Profesor Michael Meier, Kepala Kelompok Kerja Keamanan TI di Institut Ilmu Komputer Universitas Bonn, Profesor Björn Krüger dari Departemen Epileptologi di Rumah Sakit Universitas Bonn, Kepala Kesehatan Digital yang Dipersonalisasi dan Kelompok Kerja Telemedis, dan Profesor Franziska Boehm dari Fiz Karlsruhe.
Para peneliti yang terlibat dalam secureneuroai berupaya mengembangkan metode yang aman dan bertenaga AI untuk mendeteksi keadaan darurat medis secara real time, mengambil kejang epilepsi sebagai contohnya. Deteksi ini didasarkan pada analisis komprehensif dan pencatatan data sensor multimodal. Ini dilakukan dengan menggunakan, misalnya, perangkat elektronik yang dapat dipakai (“dapat dikenakan” yang singkat) yang mencatat parameter vital seperti jantung dan laju pernapasan serta data klinis pasien.
Model AI Cyber-Secure
Informasi yang diperoleh dianalisis menggunakan model AI yang aman-dunia maya yang dirancang untuk menemukan kejang dan membedakannya dengan andal dari kasus-kasus potensial manipulasi data. Pada saat yang sama, tim proyek menetapkan langkah -langkah teknis, organisasi dan hukum untuk membantu memungkinkan metode AI ini diterapkan dalam pengaturan klinis dan domestik.
Kelompok kerja DSIS, memimpin Elena Demidova dari University of Bonn, memainkan peran kunci dalam mengembangkan metode AI untuk mengautentikasi data dan mengembangkan model AI yang dapat dijelaskan untuk manipulasi dan deteksi kejang. “Model AI didorong oleh dan sangat tergantung pada data, membuat pengembangan mekanisme perlindungan, seperti otentikasi data dan deteksi manipulasi, kritis,” kata Profesor Demidova. “Secara khusus, di bidang deteksi keadaan darurat medis yang digerakkan oleh AI, deteksi manipulasi menimbulkan tantangan yang signifikan karena kompleksitas pola yang relevan dan kelangkaan data yang tersedia.”
University Hospital Bonn (UKB) memainkan peran sentral dalam validasi klinis dan integrasi model AI yang dikembangkan. Sebagai mitra aplikasi, klinik dan poliklinik untuk epileptologi secara sistematis mengumpulkan data multimodal untuk deteksi kejang dan memprosesnya dalam kondisi klinis untuk membuat basis data yang realistis untuk model AI. “Kecerdasan buatan diatur untuk memainkan peran yang semakin besar dalam menganalisis data klinis,” kata Profesor Krüger. “Pola pikir sistem yang aman sangat penting, terutama di sektor perawatan kesehatan, di mana kami bekerja dengan data pasien yang sangat sensitif-dan justru di sinilah proyek 'Secureneuroai' masuk.”
Kelompok kerja memimpin Michael Meier dari University of Bonn membawa pengalaman luas dalam topik penelitian keamanan TI saat ini ke meja. “Kami tahu dari studi tentang keamanan siber yang memiliki perangkat medis jaringan sendiri, tetapi terutama infrastruktur yang menyertainya, memiliki kerentanan yang dapat memungkinkan manipulasi data sensor yang tidak terdeteksi,” kata Profesor Meier, yang juga anggota dari bidang penelitian transdisipliner “di universitas,” “individu & masyarakat,” dan “Burung Berwujud” di universitas.
Departemen Penelitian Hak Kekayaan Intelektual (IGR) di Fiz Karlsruhe (FIZ), memimpin Franziska Boehm, menganalisis perlindungan data dan peraturan TI serta masalah hukum mengenai kecerdasan buatan. Tujuannya adalah untuk memperoleh rekomendasi untuk proses sosial dan ilmu digital, termasuk fasilitas infrastrukturnya.
Bertujuan untuk melindungi model dan data AI dari manipulasi
Temuan dari proyek ini dirancang untuk jauh menuju penguatan keamanan siber perangkat medis kritis yang menggunakan metode AI untuk mendeteksi situasi yang mengancam jiwa secara real time. Solusi teknis baru ini dimaksudkan untuk memungkinkan baik model AI dan data yang mendukungnya dilindungi dari manipulasi. Rencana tersebut adalah agar temuan berlaku untuk banyak bidang lain selain mendeteksi kejang epilepsi dan untuk proyek untuk meletakkan dasar teknologi untuk secara signifikan meningkatkan integritas, ketersediaan, dan keandalan peralatan medis berbasis AI.
