Pengguna aplikasi harus cermat menghindari data palsu yang tampak seolah-olah benar namun justru menimbulkan kasus bagi pengguna aplikasi professional. Data organisasi seperti peruasahaan berpeluang disalahgunakan oleh maling di dunia maya.
Penulis/editor: Rayendra L Toruan
mmINDUSTRI.co.id – Fraunhofer (sumber): Pandai-pandailah menghindari data palsu yang disebarkan oleh pembuat aplikasi yang seolah-olah benar namun aspal—asli tapi palsu—berisiko merugikan pengguna.
Isi buku putih Develop trustworthy AI applications with foundation models merupakan penjelasan tentang aplikasi AI yang tepercaya dengan model dasar. Dengan memahami isi buku putih itu maka pengguna kecerdasan buatan mengetahui risiko spesifik saat menggunakan AI generative.
Institut Fraunhofer BIG DATA AI Alliance menyediakan beberapa aplikasi nyata dari berbagai bidang. Semua kasus penggunaan memunculkan pertanyaan yang sama: Bagaimana teknologi AI dapat digunakan dengan aman dan terjamin?
Berkendara yang aman: pembungkus ketidakpastian
Menangani ketidakpastian secara andal merupakan faktor penting dalam penggunaan prediksi AI di banyak bidang penerapan.
Pembungkus ketidakpastian yang dikembangkan oleh Fraunhofer Institute for Experimental Software Engineering IESE yang menangani rekayasa perangkat lunak eksperimental, memeriksa seberapa pasti atau tidak pastinya keluaran (hasil olhan) AI.
Contohnya, pengenalan objek yang melibatkan rambu jalan dan mengidentifikasi berita palsu yang disebut DisCo
Berita palsu menyebar dengan cepat di media sosial. Teknik analisis teks forensik yang dikembangkan oleh Institut Fraunhofer bidang Teknologi Informasi Aman (SIT) digunakan untuk memproses teks bagi jurnalis, menyoroti bagian-bagian yang perlu dilihat dan dicermati lebih dekat.
Model bahasa AI besar untuk perusahaan: OpenGPT-X
Dalam proyek konsorsium OpenGPT-X yang didanai oleh Kementerian Federal Jerman untuk Urusan Ekonomi dan Aksi Iklim (BMWK), para ahli dari organisasi penelitian dan sektor bisnis melatih model bahasa AI berukuran besar.
Mereka menggunakan 24 bahasa yang berlaku di Eropa di bawah kepemimpinan Fraunhofer IAIS dan IIS. Rencana para ahli adalah membuat model-model aplikasi yang tersedia bagi perusahaan-perusahaan dengan basis sumber terbuka di masa depan.
Dengan demikian perusahaan dapat mengembangkan aplikasi berdasarkan AI generative dan mengoptimalkan proses. Kita ingat bahwa AI generative merupakan jenis kecerdasan buatan yang mampu menghasilkan konten baru, seperti gambar, teks, atau musik
Kepercayaan data produksi sensitif: DigiWeld
Solusi AI buatan Fraunhofer Institute for Manufacturing Engineering and Automation IPA memungkinkan produsen mesin dan pabrik memanfaatkan kecerdasan buatan tanpa harus mengumpulkan data produksi sensitif dari pelanggan mereka.
Prinsip etika dan AI yang berpusat pada manusia: ADA Lovelace Center
Di Pusat Analisis, Data, dan Aplikasi ADA Lovelace buatan Fraunhofer IIS, para peneliti sedang mengerjakan isu-isu yang berpusat pada manusia dan etika.
Secara khusus, pendekatan ilmu sosial dan perilaku digunakan untuk menjelaskan mengapa orang menerima AI (atau tidak) dan apa konsekuensi penggunaannya bagi individu.
Kegigihan para peneliti tentang AI tentu bertujuan untuk kedaulatan teknologi Jerman. Oleh karena itu, melalui seluruh Solusi buatan mereka, para peneliti Fraunhofer memberikan kontribusi penting untuk membuka potensi AI di dunia nyata.
“Perkembangan AI generative saat ini adalah contoh utama dari potensi besar dan banyaknya tantangan seputar teknologi masa depan ini dalam hal keamanan, transparansi, dan privasi. Banyak teknologi dan solusi yang kita lihat saat ini berasal dari luar Eropa,” jelas Dr. Sonja Holl-Supra, Managing Director Fraunhofer BIG DATA AI Alliance.
Penelitian yang dilakukan oleh Fraunhofer-Gesellschaft guna membantu menjaga dan mengembangkan kedaulatan teknologi dan kemandirian perusahaan-perusahaan di Jerman, ungkap Dr. Sonja Holl-Supra, Managing Director Fraunhofer BIG DATA AI Alliance.
Timnya terdiri dari lebih dari 30 institut Fraunhofer dan menyepakati kesatuan keahlian Fraunhofer di bidang AI. Undang-undang AI yang diadopsi oleh Parlemen Eropa mengatur penilaian AI. Alat penilaian yang dikembangkan untuk tujuan agar dapat membantu menerapkan persyaratan.
Bagaimana jika menggunakan data palsu dalam sistem AI generative? Hal itu dapat menimbulkan sejumlah risiko yang perlu diperhatikan seperti kemungkinan yang akan:
- Kehilangan keandalan: Data palsu dapat mengakibatkan hasil yang tidak dapat diandalkan. Sistem AI generative mungkin menghasilkan konten yang salah atau tidak sesuai dengan kebutuhan.
- Penyebaran informasi tidak benar: Jika data palsu digunakan dalam pembuatan berita, konten media sosial, atau informasi lainnya, ini dapat menyebarkan informasi yang tidak benar dan membingungkan.
- Dampak pada keputusan bisnis: Jika data palsu digunakan dalam analisis bisnis atau pengambilan keputusan, hal itu mengarah pada keputusan yang salah dan berdampak negatif pada perusahaan.
- Kerentanan terhadap serangan: Data palsu dapat digunakan oleh penyerang untuk memanipulasi sistem AI generative. Misalnya, deepfake dapat digunakan untuk membuat video palsu yang tampak nyata padahal aspal.
- Kehilangan kepercayaan: Pengguna dan konsumen mungkin kehilangan kepercayaan jika mengetahui bahwa data yang digunakan palsu. Ini dapat merugikan reputasi perusahaan atau platform yang menggunakan sistem AI generative.
- Pelanggaran privasi: Penggunaan data palsu dapat melibatkan pelanggaran privasi jika data palsu tersebut berasal dari individu atau entitas yang tidak memberikan izin.
Oleh karena itu, seperti dirangkum dari beberapa sumber penting untuk memastikan bahwa data yang digunakan dalam sistem AI generative adalah valid, terverifikasi, dan dapat dipercaya.
Bagaimana keamanan data saat menggunakan solusi AI? Berikut beberapa langkah yang dapat membantu untuk memastikan keamanan data:
- Kontrol akses: Terapkan kontrol akses yang ketat untuk membatasi jumlah pengguna yang dapat mengakses data sensitif. Ini akan mengurangi risiko akses tidak sah atau pelanggaran data.
- Enkripsi data: Gunakan algoritme enkripsi standar industri untuk mengenkripsi semua data sensitif saat disimpan dan dalam perjalanan. Enkripsi akan melindungi data dari akses yang tidak sah dan memastikan kerahasiaannya.
- Firewall dan pengaturan akses: Pastikan jaringan dan sistem yang digunakan untuk mengoperasikan solusi AI dilindungi dengan baik. Gunakan firewall dan pengaturan akses yang ketat untuk mencegah serangan dan mengamankan data.
- Pemantauan aktivitas: Pantau aktivitas pengguna dan akses data secara teratur. Ini akan membantu mendeteksi perilaku mencurigakan atau ancaman keamanan.
- Pematuhan peraturan perlindungan data: Pastikan Anda mematuhi peraturan perlindungan data, seperti Peraturan Perlindungan Data Umum. Hal itu akan membantu memastikan privasi data dalam pengembangan solusi AI.
- Pedoman etis dan praktik terbaik: Ikuti pedoman etis dan praktik terbaik dalam penggunaan AI. Misalnya, Kelompok Pakar Tingkat Tinggi Komisi Eropa tentang AI telah menguraikan pedoman etis yang dapat memandu penggunaan AI yang bertanggung jawab.
Indonesia memiliki potensi besar dalam mengembangkan AI misalnya jumlah data yang besar dan beragam yang dapat digunakan sebagai bahan untuk pelatihan algoritma AI.
Indonesia pun memiliki sejumlah startup AI yang bermunculan di berbagai sektor seperti kesehatan, e-commerce, logistik, dan lain-lain.
Dengan dukungan pemerintah dan komunitas bisnis, Indonesia berpotensi untuk menjadi pusat pengembangan teknologi AI yang terbeSAR di kawasan Asia Tenggara.