Didi Achjari
Guru Besar Fakultas Ekonomika dan Bisnis Universitas Gadjah Mada

Penyebaran radikalisme, rasisme, teori konspirasi, ujaran kebencian, dan sejenisnya melalui media sosial seperti YouTube adalah fenomena global. Artikel "The Making of a YouTube Radical" oleh Kevin Roose di New York Times pada 8 Juni 2019 menunjukkan fenomena tersebut juga terjadi di Amerika Serikat. Tulisan ini bermaksud untuk memaparkan adanya algoritma di balik platform media sosial yang mempunyai tujuan dan kepentingan pihak tertentu, yang tidak disadari keberadaan dan bahayanya oleh pengguna. Algoritma semacam itu disebut "algoritma gelap".

Mengapa media sosial seperti YouTube bisa menjadi sarana penyebaran konten dan informasi negatif? Menurut Roose (2019), ada dua penyebabnya. Pertama, media sosial seperti YouTube umumnya mengandalkan pendapatannya dari iklan. Algoritmanya dirancang agar pengguna mendapat informasi yang relevan dengan profil pengguna. Konten di YouTube yang banyak pengunjungnya bisa menjadi sumber pendapatan bagi pengunggahnya. Popularitas yang mendatangkan iklan ini bisa menjadi modus konten yang berkaitan dengan paham radikal. Dalam konteks artikel Roose, tokoh-tokoh yang menyebarkan paham radikalisme di Amerika via YouTube juga banyak pengunjungnya.

Kedua, problem yang laten adalah algoritma YouTube. Sekali seseorang mengunjungi suatu konten, dia akan diberi saran tautan konten lain yang sejenis dan relevan oleh algoritma YouTube. Masalahnya, jika seorang pengguna mengunjungi konten yang dianggap negatif, dia akan diberi saran tautan yang relevan dengan konten negatif tersebut. Dia akan terjebak dalam pusaran konten dan informasi sejenis. Hal ini disebut sebagai fenomena "lubang kelinci" (rabbit hole).

Pengguna media sosial yang bijak akan mencari info yang berimbang secara mandiri. Tapi seberapa banyak orang yang melakukannya? Kebanyakan orang hanya mau melihat apa yang ingin mereka lihat. Kita cenderung pasrah kepada media sosial dan mesin pencari untuk dipilihkan informasi yang cocok dengan profil kita.

Melalui algoritmanya, media sosial bisa menyajikan atau tidak menyajikan suatu konten informasi tertentu untuk kita. Sementara itu, masyarakat pengguna percaya sepenuhnya kepada kejujuran platform media sosial. Di sinilah pentingnya menelaah algoritma media sosial. Pemerintah perlu hadir untuk melindungi masyarakat. Hal ini bisa dilakukan dengan adanya institusi yang menelaah algoritma platform media sosial.

Perusahaan penyedia platform media sosial, yang kebanyakan perusahaan multinasional asing, menambah kompleks isu ini. Sejauh mana otoritas pemerintah Indonesia bisa meminta mereka membuka algoritma yang merupakan rahasia dagangnya? Tanpa membuka algoritmanya, tentu akan sulit mengetahui ada-tidaknya "penumpang gelap".

Roose mencontohkan Caleb Cain, yang terpapar radikalisme karena terjebak di lubang kelinci media sosial. Cain secara intens mengikuti saluran dan tautan yang disarankan oleh media sosial radikal. Padahal, pada era pasca-kebenaran, kebenaran adalah apa yang kita lihat dan dengar secara terus-menerus melalui berbagai saluran. Akibatnya, Cain berubah menjadi sosok lain dan menganggap paham radikal yang dia ikutilah yang paling benar. Hal ini terjadi karena umumnya masyarakat percaya dan berasumsi bahwa media sosial jujur dalam menyajikan informasi dan konten. Akibatnya, seperti Cain, banyak orang yang tidak sadar telah menjadi korban pasca-kebenaran karena tidak ada kebenaran lain di lubang kelinci sebagai pembanding.

Yang bisa menjadi korban pasca-kebenaran hasil algoritma gelap ini bukan hanya orang awam, melainkan juga kaum terpelajar. Ketidakmampuan banyak elemen masyarakat dalam menghadapi pasca-kebenaran menunjukkan masyarakat Indonesia masih belum siap menghadapi implikasi dari zaman serba-terhubung. Pemerintah perlu membuat regulasi, tapi masyarakat juga perlu meningkatkan kesadaran dan kapasitasnya dalam menghadapi algoritma gelap. Proses edukasinya tidak bisa dijalankan dalam kerangka pendidikan konvensional (berbasis kurikulum sekolah) karena isunya sangat kontemporer (berkaitan dengan teknologi mutakhir dan pengolahan informasi secara massif) dan menghunjam sampai ke ranah keyakinan.

Dalam konteks farmasi, produsen obat dihadapkan pada uji klinis bertahun-tahun, dan obatnya harus lolos uji yang sangat ketat sebelum boleh beredar. Jika ada efek yang ketahuan kemudian, produsen tetap bisa dituntut oleh konsumen. Tapi hal itu tampaknya tidak berlaku untuk produk platform media sosial. Jika ada orang yang menjadi radikal atau terjadi huru-hara karena asupan konten hasil algoritma media sosial, apakah pembuat platform bisa dituntut? Kalau secara legal sulit dibuktikan, apakah etis platform itu menyediakan jasa yang bisa menjadi sarana perilaku anti-sosial dan paham negatif yang berbahaya bagi masyarakat?

Melindungi masyarakat dari jebakan lubang kelinci algoritma gelap media sosial dengan mengandalkan regulasi yang sangat terbatas saat ini bisa jadi adalah misi yang hampir mustahil. Perlu kolaborasi lintas disiplin ilmu untuk mencari solusinya.