Seketika.com, Teknologi – Anthropic mengungkap sejumlah upaya penyalahgunaan model AI Claude untuk aktivitas berisiko tinggi, mulai dari serangan siber hingga penelitian biologi yang berpotensi meningkatkan bahaya sebuah virus. Temuan tersebut mendorong perusahaan memperkuat sistem pengamanan pada model AI terbarunya.
Anthropic melaporkan telah memblokir berbagai aktivitas yang dinilai berbahaya dan melibatkan layanan AI miliknya. Temuan tersebut mencakup penggunaan Claude dalam aktivitas siber, pengawasan, propaganda, hingga permintaan terkait penelitian biologi berisiko.
Perusahaan mengatakan laporan ini merupakan bagian dari upayanya membuka pola penyalahgunaan AI yang dianggap paling menonjol dan baru ditemukan. Anthropic juga berharap informasi tersebut dapat membantu perusahaan AI lain dan pemerintah memperkuat pertahanan terhadap ancaman serupa.
Salah satu kasus yang mendapat perhatian adalah permintaan untuk membantu penyusunan proposal pendanaan penelitian peningkatan fungsi pada virus chikungunya.
Dalam konteks tersebut, penelitian diarahkan pada perubahan biologis yang dapat meningkatkan kemampuan virus untuk menular dan menghindari respons kekebalan. Anthropic menilai penelitian semacam itu dapat memiliki manfaat medis, tetapi juga berpotensi disalahgunakan untuk membuat patogen lebih berbahaya.
Anthropic mengatakan sistemnya memblokir permintaan bantuan yang berkaitan dengan proposal penelitian tersebut.
Perusahaan membedakan antara penelitian biologi yang memiliki manfaat ilmiah dan penelitian dwiguna yang hasilnya dapat dimanfaatkan untuk tujuan berbahaya. Karena model AI terbaru memiliki kemampuan lebih tinggi dalam membantu pekerjaan ilmiah kompleks, batas pengamanannya juga diperketat.
Anthropic menegaskan bahwa mereka tidak dapat menjamin model AI sepenuhnya bebas dari risiko.
Anthropic menilai perkembangan kemampuan model AI membuat ancaman tertentu menjadi lebih mudah dilakukan.
Dalam keamanan siber, misalnya, aktivitas yang sebelumnya membutuhkan keterampilan teknis tinggi berpotensi dilakukan dengan bantuan AI yang semakin canggih. Bahkan individu dapat memperoleh kemampuan yang sebelumnya sulit dijangkau tanpa keahlian khusus.
Kondisi tersebut membuat pengamanan AI menjadi semakin penting, terutama ketika satu model dapat digunakan untuk berbagai tujuan sekaligus.
Menurut Anthropic, model lama seperti Claude Opus 4 dan Claude Sonnet 4.5 masih berada jauh di bawah tingkat kemampuan yang memungkinkan pengguna berpengalaman memperoleh bantuan berarti untuk penelitian biologi berbahaya.
Namun, perusahaan mengatakan situasinya berbeda pada model yang lebih baru dan lebih mampu membantu tugas penelitian ilmiah kompleks.
Karena itu, Anthropic menerapkan perlindungan lebih ketat terhadap berbagai permintaan penelitian biologi yang memiliki potensi penggunaan ganda.
Anthropic mengatakan temuan dalam laporan tersebut berasal dari periode Desember 2025 hingga Agustus 2026.
Dalam periode itu, perusahaan menemukan penyalahgunaan yang dilakukan oleh berbagai pihak. Aktornya disebut mencakup vendor perangkat lunak pengawasan, individu yang memiliki motivasi politik, hingga kelompok yang didukung negara.
Anthropic juga menemukan sejumlah operasi pengaruh yang menggunakan ratusan akun media sosial yang dibuat agar terlihat seperti akun milik pengguna biasa.
Akun-akun tersebut kemudian digunakan untuk menyebarkan materi yang memperkuat pandangan politik tertentu. Anthropic mengidentifikasi sembilan kasus yang terkait dengan berbagai kawasan, termasuk Rusia, Iran, Turki, Teluk Persia, Asia Selatan, Afrika, dan Eropa.
Menurut perusahaan, deteksi pada tahap penggunaan AI dapat memberikan kesempatan untuk menemukan operasi semacam itu sebelum aktivitasnya berkembang lebih jauh di platform media sosial.
Ancaman lainnya berasal dari penggunaan AI dalam aktivitas siber.
Anthropic mengatakan kemampuan model yang semakin maju dapat menurunkan hambatan teknis bagi pelaku serangan. Hal ini membuat serangan yang lebih kompleks berpotensi dilakukan oleh aktor dengan sumber daya atau keahlian yang lebih terbatas.
Perusahaan menyatakan telah memblokir aktivitas berbahaya yang berhasil mereka identifikasi dan menggunakan temuan tersebut untuk meningkatkan sistem pertahanan.
Publikasi laporan tersebut juga muncul di tengah perdebatan mengenai arah pengembangan AI.
Jacob Coxon, salah satu peneliti Anthropic, sebelumnya mengumumkan pengunduran dirinya dan menyampaikan kekhawatiran mengenai perlombaan pengembangan AI menuju kecerdasan yang semakin maju.
Ia memperingatkan mengenai potensi risiko AI terhadap manusia apabila pengembang tidak bertindak cukup bertanggung jawab.
Perdebatan ini memperlihatkan bahwa persoalan keamanan AI tidak hanya datang dari regulator dan masyarakat, tetapi juga muncul dari kalangan yang bekerja di industri tersebut.
Anthropic mengatakan pengalaman menangani penyalahgunaan akan digunakan untuk memperbaiki pengamanan model-modelnya.
Perusahaan juga menyatakan telah membagikan informasi tertentu kepada otoritas pemerintah dan mitra industri agar pola ancaman yang sama dapat lebih cepat dikenali.
Di sisi lain, sejumlah ahli menilai pengamanan tidak seharusnya sepenuhnya diserahkan kepada perusahaan AI. Pemerintah juga didorong membangun aturan yang dapat mengawasi perkembangan teknologi tersebut.
Persoalannya menjadi semakin kompleks karena perusahaan teknologi harus menentukan batas antara penggunaan AI yang aman dan penggunaan yang berbahaya, sementara kemampuan model terus berkembang.
