KT Luncurkan 'KSAFE-MM', Model Evaluasi Keamanan AI yang Dikhususkan untuk Budaya Korea
KT bekerja sama dengan Universitas Korea telah meluncurkan ‘KSAFE-MM’, sebuah tolok ukur (benchmark) evaluasi keamanan kecerdasan buatan (AI) yang mencerminkan karakteristik linguistik dan konteks budaya Korea secara presisi. Proyek ini digagas untuk mengatasi masalah bias budaya atau kesenjangan dengan nilai-nilai Korea yang sering muncul ketika model AI global dilatih menggunakan data yang bersifat umum. Melalui kolaborasi ini, kedua institusi telah meletakkan dasar untuk meningkatkan kepercayaan terhadap teknologi AI domestik.
KSAFE-MM berfokus pada pengukuran seberapa aman dan akurat AI dalam memproses emosi unik dan nuansa linguistik masyarakat Korea. Mengingat model evaluasi AI global yang ada saat ini sebagian besar dirancang berdasarkan dataset Barat dan memiliki keterbatasan dalam mencerminkan situasi khusus di Korea, tolok ukur ini dipandang sebagai tonggak penting dalam membangun ekosistem AI khas Korea. Kuncinya adalah memverifikasi apakah AI dapat memahami konteks bahasa Korea yang kompleks dan norma sosial dengan benar.
Pengembangan ini merupakan hasil gabungan dari keahlian teknologi AI milik KT dan kapasitas penelitian akademis Universitas Korea. Kedua belah pihak telah membangun sistem melalui pengujian multi-aspek untuk menentukan bahaya konten yang dihasilkan oleh model AI dan mengevaluasi apakah model tersebut mematuhi pedoman etika yang dapat diterima dalam lingkup budaya Korea. Hal ini melampaui kinerja teknis semata, karena berperan membantu AI dalam menyediakan layanan yang lebih aman dan ramah bagi pengguna di Korea.
Di tengah maraknya diskusi global mengenai etika dan keamanan AI seiring dengan penyebaran AI generatif, kemunculan KSAFE-MM diharapkan menjadi momentum untuk memperkuat daya saing industri AI Korea. Model evaluasi keamanan yang mencerminkan konteks budaya suatu negara tertentu diharapkan dapat berkontribusi pada AI buatan Korea dalam mengamankan kredibilitas yang berbeda di pasar AI global. Ini juga akan menjadi referensi penting dalam strategi lokalisasi model AI.
Para pakar industri menilai bahwa peluncuran tolok ukur ini memberikan landasan teknis bagi perusahaan AI domestik untuk tetap sejalan dengan standar global sekaligus melestarikan nilai-nilai Korea. Terutama di lingkungan pasar di mana model multibahasa mendominasi, alat verifikasi keamanan yang dikhususkan untuk bahasa dan budaya Korea kemungkinan besar akan digunakan sebagai indikator penting bagi perusahaan domestik maupun asing saat memasuki pasar Korea atau mengembangkan layanan berbasis Korea.
KT dan Universitas Korea berencana untuk terus meningkatkan KSAFE-MM di masa depan agar dapat memantapkan posisinya sebagai standar evaluasi keamanan AI. Mengingat pesatnya perkembangan teknologi, tantangan ke depannya adalah mempertahankan sistem evaluasi fleksibel yang dapat mencerminkan tuntutan sosial yang berubah dan jenis risiko AI baru secara real-time. Kolaborasi ini diprediksi akan tercatat sebagai contoh teladan di mana akademisi dan industri bersama-sama memikirkan dan mempraktikkan tanggung jawab etis AI.
Kesimpulannya, peluncuran KSAFE-MM merupakan titik balik penting yang memperkuat kedaulatan digital Korea dan membantu teknologi AI berkembang dengan menghormati nilai-nilai budaya masyarakat kita. Di tengah situasi di mana K-Content global dan teknologi digital Korea mendapatkan perhatian dunia, menciptakan lingkungan AI yang aman dan memahami sentimen Korea akan menjadi elemen kunci dalam menanamkan kepercayaan terhadap teknologi Korea kepada pengguna di seluruh dunia.
