Engineer Microsoft Ketakutan Akan Hasil Ai, Kirim Surat ke FTC

  • Whatsapp
Engineer Microsoft Ketakutan Akan Hasil Ai

NEWS – Seorang engineer Microsoft ketakutan akan hasil AI yang bernama bernama Shane Jones mengaku ketakutan setelah melihat gambar yang dihasilkan oleh Copilot Designer AI, sebuah teknologi kecerdasan buatan (AI) besutan Microsoft. Jones bahkan sampai mengirim surat kepada Federal Trade Commission (FTC) dan direksi Microsoft untuk memperingatkan bahwa AI ini bisa menghasilkan gambar-gambar tidak pantas, mengerikan, dan bahkan berbahaya.

Jones, yang telah bekerja di Microsoft selama 6 tahun dan saat ini menjabat sebagai manajer rekayasa perangkat lunak, menemukan bahwa Copilot Designer AI, yang sebelumnya bernama Bing Image Creator, bisa menghasilkan gambar-gambar yang bernuansa kekerasan, mesum, narkoba, dan teori konspirasi. Ia telah mencoba memperingatkan Microsoft tentang potensi bahaya AI ini, namun menurutnya perusahaan tidak melakukan investigasi atau tindakan apapun.

“Ini adalah sebuah momen yang membuka mata. Ketika pertama kali menyadari, ini bukan model yang aman,” tulis Jones dalam suratnya kepada FTC.

Copilot Designer AI adalah sebuah AI yang dapat menghasilkan gambar hanya dengan perintah melalui tulisan. Akan tetapi, dengan kata-kata tertentu, ilustrasi yang dihasilkan bisa tidak pantas. Jones menemukan bahwa AI ini dapat menghasilkan gambar remaja dengan senapan serbu, gambar seksual perempuan, dan penggunaan minuman keras dan narkoba di bawah umur.

“Saya yakin bahwa AI ini memiliki potensi untuk disalahgunakan dan menghasilkan konten berbahaya,” kata Jones dalam sebuah wawancara dengan CNBC. “Saya khawatir tentang dampaknya terhadap masyarakat.”

Jones berharap suratnya kepada FTC dapat mendorong tindakan untuk mengatasi masalah ini. Ia menyerukan agar FTC menyelidiki Microsoft dan memastikan bahwa perusahaan mengambil langkah-langkah untuk mencegah AI ini menghasilkan konten berbahaya.

Microsoft sendiri menyatakan mereka selalu berusaha memastikan layanannya aman dan juga mendengarkan kecemasan dari para karyawan.

“Kami berkomitmen untuk mengembangkan AI yang bertanggung jawab dan aman,” kata juru bicara Microsoft. “Kami sedang meninjau surat dari karyawan kami dan akan mengambil tindakan yang tepat.”

Kasus ini kembali memicu perdebatan tentang keamanan dan etika AI. Para ahli mengatakan bahwa AI memiliki potensi untuk disalahgunakan dan menghasilkan konten berbahaya. Oleh karena itu, penting untuk memastikan bahwa AI dikembangkan dan digunakan secara bertanggung jawab.

Dampak Kasus Copilot Designer AI

Kasus Copilot Designer AI telah menimbulkan kekhawatiran tentang potensi bahaya AI. Para ahli mengatakan bahwa AI dapat digunakan untuk menghasilkan konten berbahaya seperti propaganda, kebencian, dan kekerasan.

Kasus ini juga menunjukkan bahwa perusahaan teknologi perlu melakukan lebih banyak untuk memastikan keamanan dan etika AI. Perusahaan harus memiliki mekanisme yang kuat untuk mencegah AI menghasilkan konten berbahaya.

Selain itu, masyarakat perlu dilibatkan dalam diskusi tentang pengembangan dan penggunaan AI. Masyarakat perlu memahami potensi bahaya AI dan bagaimana cara mengatasinya.

Masa Depan AI

Kasus Copilot Designer AI merupakan contoh bagaimana AI dapat disalahgunakan. Namun, kasus ini juga menunjukkan bahwa AI memiliki potensi untuk digunakan untuk tujuan yang baik.

AI dapat digunakan untuk menyelesaikan berbagai masalah seperti perubahan iklim, penyakit, dan kemiskinan.

Oleh karena itu, penting untuk mengembangkan AI secara bertanggung jawab dan memastikan bahwa AI digunakan untuk kebaikan manusia.

Pesan untuk Pembaca

Kasus Copilot Designer AI adalah pengingat bahwa AI memiliki potensi untuk disalahgunakan. Kita semua harus waspada terhadap potensi bahaya AI dan bekerja sama untuk memastikan bahwa AI digunakan untuk kebaikan manusia.

Kasus Copilot Designer AI adalah contoh bagaimana AI dapat disalahgunakan. Kasus ini menunjukkan bahwa perusahaan teknologi perlu melakukan lebih banyak untuk memastikan keamanan dan etika AI. Masyarakat juga perlu dilibatkan dalam diskusi tentang pengembangan dan penggunaan AI.

Masa depan AI tergantung pada bagaimana kita menggunakannya. Kita dapat menggunakan AI untuk menyelesaikan berbagai masalah dan membuat dunia menjadi tempat yang lebih baik. Namun, kita juga harus berhati-hati agar AI tidak disalahgunakan untuk tujuan yang berbahaya.

Pos terkait

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *