1 dari 5 perusahaan terkemuka menyebutkan AI generatif dalam laporan keuangan mereka, namun tidak dengan cara yang baik

AI generatif ada dalam radar semua orang. Namun sering kali, teknologi baru dipandang sebagai faktor risiko.

Referensi terhadap AI generatif semakin banyak bermunculan dalam laporan keuangan perusahaan, namun belum tentu mencerminkan kecerdasan dan transformasi yang positif. Di antara perusahaan-perusahaan yang membahas implikasi AI generatif, tujuh dari sepuluh menyebutkan potensi risikonya terhadap posisi kompetitif dan keamanan, serta penyebaran informasi yang salah.

Demikian kesimpulan dari analisis laporan keuangan tahunan (10-K) perusahaan-perusahaan Fortune 500 yang berbasis di AS dari data per 1 Mei 2024. Penelitian tersebut membandingkan isi laporan perusahaan dengan informasi dari tahun 2022 dan mencari istilah-istilah seperti itu. seperti kecerdasan buatan (AI), pembelajaran mesin, model bahasa besar, dan AI generatif.

Lebih dari satu dari lima perusahaan (22%) menyebutkan AI generatif atau model bahasa besar dalam laporan keuangan mereka, berdasarkan analisis yang dilakukan oleh pakar teknologi Arize. Proporsi ini menunjukkan peningkatan sebesar 250% dalam jumlah penyebutan AI dalam laporan-laporan ini sejak tahun 2022.

Perusahaan publik diwajibkan untuk membahas risiko yang diketahui atau potensi risiko dalam pengungkapan keuangan mereka, sehingga hal ini merupakan faktor tingginya tingkat penyebutan AI generatif yang tidak terlalu positif. Namun, pertumbuhan tersebut juga menggambarkan kekhawatiran yang timbul dari teknologi baru.

Hampir tujuh dari 10 laporan keuangan menyebutkan AI generatif dalam konteks risiko pengungkapan, baik risiko tersebut disebabkan oleh penggunaan teknologi baru atau sebagai ancaman persaingan atau keamanan eksternal terhadap bisnis. Setidaknya 281 perusahaan (56%) menyebut AI sebagai faktor risiko potensial, naik 474% dibandingkan tahun 2022.

Hanya 31% perusahaan yang menyebutkan AI generatif dalam laporannya menyebutkan manfaatnya. Banyak organisasi yang berpotensi kehilangan peluang untuk memperkenalkan adopsi AI kepada investor. “Meskipun banyak perusahaan yang cenderung melakukan kesalahan dalam mengungkapkan risiko AI yang kecil sekalipun karena alasan peraturan, pernyataan seperti itu mungkin tidak secara akurat mencerminkan visi perusahaan secara keseluruhan,” kata penulis Arize.

Risikonya tidak hanya dalam konteks bias, keamanan, atau penyakit AI lainnya. Kegagalan untuk mengikuti perkembangan AI disebut-sebut sebagai salah satu faktor risiko, sebagaimana tercantum dalam pengajuan 10-K S&P Global mulai tanggal 31 Desember 2023. “Kecerdasan buatan generatif dapat digunakan dengan cara yang secara signifikan meningkatkan akses terhadap informasi yang tersedia secara gratis dan relatif murah. informasi," bunyi pernyataan itu. “Sumber informasi publik yang gratis atau relatif murah dapat mengurangi permintaan terhadap produk dan layanan kami.”

Risiko lain, kerusakan reputasi, disebutkan dalam pengajuan 10-K Motorola. “Seiring dengan semakin banyaknya kami yang memasukkan AI, termasuk AI generatif, ke dalam penawaran kami, kami mungkin mengaktifkan atau menawarkan solusi yang menimbulkan kontroversi karena dampak nyata atau dampak yang dirasakan terhadap masalah sosial dan etika akibat penggunaan AI yang baru dan terus berkembang dalam penawaran tersebut,” kata laporan keuangan mereka.

“AI mungkin tidak selalu beroperasi sebagaimana mestinya dan kumpulan data mungkin tidak mencukupi atau berisi informasi ilegal, bias, berbahaya, atau menyinggung, yang dapat berdampak negatif terhadap hasil operasi, reputasi bisnis, atau penerimaan pelanggan terhadap penawaran AI kami.”

Motorola mengindikasikan bahwa mereka mempertahankan program tata kelola AI dan komite pengawasan teknologi internal, namun "kami mungkin masih mengalami kerusakan reputasi atau persaingan akibat ketidakkonsistenan dalam penerapan teknologi atau masalah etika, yang keduanya dapat menghasilkan publisitas negatif."

Namun, ada beberapa kabar positif dari penelitian tersebut. AI generatif dipandang lebih positif oleh setidaknya sepertiga organisasi, seperti yang dikutip oleh Quest Diagnostics dalam laporan keuangannya: "Pada tahun 2023, kami membuat inisiatif untuk menerapkan AI generatif untuk meningkatkan beberapa area bisnis kami, termasuk rekayasa perangkat lunak , layanan pelanggan, analisis klaim, optimalisasi penjadwalan, pemrosesan spesimen, dan pemasaran. Kami berharap dapat mengembangkan lebih lanjut proyek-proyek ini pada tahun 2024."

Quest juga mencatat bahwa mereka berupaya menyelaraskan praktik AI-nya dengan Kerangka Manajemen Risiko NIST AI dan "bermitra secara strategis dengan pakar AI eksternal jika diperlukan untuk memastikan kami tetap mendapat informasi tentang kemajuan teknologi terkini dalam industri."

Dalam catatan yang lebih positif dan berwawasan ke depan, Quest menyatakan bahwa "kami percaya AI generatif akan membantu kami berinovasi dan tumbuh dengan cara yang bertanggung jawab sekaligus meningkatkan pengalaman pelanggan dan karyawan serta menghasilkan efisiensi biaya. Kami bermaksud untuk terus menjadi yang terdepan penggunaan AI yang inovatif, bertanggung jawab, dan aman, termasuk AI generatif, dalam solusi informasi diagnostik."