OpenAI mengumumkan pembaruan pada API, termasuk peningkatan kemampuan pemanggilan fungsi

Perusahaan di balik ChatGPT juga mengumumkan penurunan harga hingga 25% yang akan segera berlaku.

Karena OpenAI semakin populer berkat peluncuran ChatGPT pada musim gugur yang lalu, antarmuka pemrograman aplikasi (API) juga menjadi alat yang banyak dicari oleh para pengembang. Berbagai perusahaan telah menemukan inspirasi dalam kesuksesan OpenAI dan ingin mereplikasinya, sehingga membuat para pengembang menggunakan API-nya untuk membuat lebih banyak alat.

Untuk membantu mengatasi lonjakan permintaan ini, OpenAI telah mengumumkan beberapa perubahan pada API-nya, seperti peningkatan kemampuan pemanggilan fungsi, versi GPT-4 dan GPT-3.5 Turbo yang lebih mudah dikendalikan, versi konteks 16k baru dari GPT-3.5 Turbo, dan pengurangan biaya sebesar 75% pada model Embeddings, yang mengakibatkan pengurangan biaya bagi pengembang yang membayar API.

Beberapa pembaruan baru mencakup kemampuan pemanggilan fungsi baru di Chat Completions API yang memungkinkan pengembang menghubungkan kekuatan model GPT dengan alat eksternal secara lebih andal. Dengan pembaruan ini, pengembang akan dapat memberikan instruksi untuk GPT-4 dan GPT-3.5 Turbo dengan menjelaskan fungsinya, dan model akan mengeluarkan objek JSON dengan argumen yang diperlukan untuk memanggil fungsi tersebut.

Pembaruan ini memudahkan pengembang untuk membangun chatbot atau aplikasi yang berinteraksi dengan alat dan API eksternal untuk melakukan tugas tertentu, seperti mengirim email, mengambil informasi cuaca atau penerbangan, atau mengekstrak data dari sumber teks seperti situs web.

Pembaruan ini juga menjadikan model GPT-4 dan GPT-3.5 lebih dapat dikendalikan, sehingga pengembang dapat memberikan kontrol yang lebih besar terhadap keluaran model. OpenAI memungkinkan pengembang untuk menyusun konteks, menentukan format yang diinginkan, dan memberikan instruksi kepada model tentang keluaran yang diinginkan. Pada dasarnya, pengembang memiliki lebih banyak hak untuk menentukan nada, gaya, dan konten respons yang dihasilkan oleh model yang digunakan dalam aplikasi mereka.

OpenAI juga mengumumkan peluncuran versi konteks 16k baru dari GPT-3.5 Turbo, yang berbeda dari model GPT-3.5 di belakang ChatGPT, karena model ini secara khusus dirancang bagi pengembang untuk membuat aplikasi berbasis obrolan. Model 16K terbaru merupakan varian upgrade dari standar yang sebelumnya menggunakan model 4K.

Konteks dalam "konteks 16k" digunakan untuk mendeskripsikan teks dalam percakapan yang membantu memberikan konteks dan membantu model memahami masukan serta memberikan respons yang relevan dengan percakapan tersebut. Token 4k, atau 4.000, dalam model standar GPT-3.5 Turbo membatasi kemampuan model untuk mempertahankan konteks percakapan hingga beberapa paragraf. 16k, atau 16.000, token, sama dengan sekitar 20 halaman teks, memberikan model jumlah teks yang lebih besar sebagai konteks.

Terakhir, OpenAI mengumumkan bahwa mereka dapat menjadi lebih efisien dan mengurangi biaya, sehingga mengurangi model Embeddings sebesar 75% menjadi $0,0001 per 1 ribu token, dan GPT-3,5 Turbo sebesar 25% menjadi $0,0014 per 1 ribu token masukan dan $0,002 per 1 ribu keluaran. token. Model GPT-3.5 Turbo-16k baru dihargai $0,003 per 1 ribu token masukan dan $0,004 per 1 ribu token keluaran.