| Tweet |
|
Topik:
|
Hentikan Pembangunan Bisnis Anda dengan Menggunakan Alat AI Sewaan: Rented AI vs Owned AI SystemOleh: Hobon.id (04/11/2026)
Bayangkan membuka restoran di tempat sewaan. Kita memasang papan nama, melatih staf, membangun basis pelanggan setia, dan perlahan-lahan menuangkan ide-ide terbaik kita ke tempat tersebut. Kemudian suatu pagi pemilik gedung mengumumkan bahwa harga sewa berubah, ketentuan sewa berbeda, dan salah satu ruangan yang kita andalkan tidak lagi tersedia. Kita tidak diperlakukan tidak adil. Pemilik gedung melakukan hal yang biasa dilakukan pemilik gedung. Kesalahannya adalah membangun semua hal penting di dalam ruang yang tidak kita kendalikan.Banyak bisnis melakukan hal yang sama dengan kecerdasan buatan. Mereka menempatkan pengetahuan pelanggan mereka di riwayat obrolan satu vendor, alur kerja mereka di pembuat otomatisasi vendor lain, petunjuk mereka di asisten khusus vendor ketiga, dan operasi harian mereka di atas beberapa langganan yang dapat mengubah harga, perilaku, atau ketersediaan tanpa meminta izin. Ini berjalan dengan baik, sampai suatu hari nanti tidak lagi. Ini bukan argumen menentang penggunaan alat AI. Menyewa seringkali merupakan cara paling cerdas untuk memulai, dan untuk banyak tugas, itu tetap merupakan cara paling cerdas untuk melanjutkan. Ini adalah argumen tentang di mana bagian-bagian berharga dari bisnis kita seharusnya berada. Kami di sini akan menjelaskan perbedaan antara AI sewaan dan sistem AI milik sendiri, menunjukkan dengan contoh nyata mengapa perbedaan tersebut penting, menjabarkan apa yang harus kita miliki dan apa yang sebaiknya tetap kita sewa, serta memberikan panduan praktis untuk beralih dari satu ke yang lain tanpa harus mempertaruhkan perusahaan dengan penulisan ulang kode. Advertisement:
Apa Arti Sebenarnya dari "Rented AI" dan "Owned AI"Kedua istilah ini mudah disalahartikan, jadi penting untuk bersikap tepat. Rented AIRented AI berarti bahwa kemampuan, data, alur kerja, dan pengetahuan yang terakumulasi dari penggunaan AI kita berada di dalam produk dan layanan yang dikendalikan oleh pihak lain. Kita membayar biaya berlangganan atau penggunaan, kita mendapatkan akses, dan kita beroperasi dalam aturan vendor. Contohnya termasuk asisten obrolan tempat tim kita menyimpan petunjuk terbaik dan instruksi khusus, platform penulisan AI yang menyimpan pengaturan suara merek kita, alat otomatisasi tanpa kode yang menjalankan alur kerja kualifikasi prospek kita, asisten coding yang terikat pada editor tertentu, atau bot dukungan pelanggan yang sepenuhnya dihosting di platform vendor. Tidak ada yang salah dengan hal ini. Ciri khasnya bukanlah kita membayarnya. Melainkan hal-hal yang membuat penggunaan AI kita berharga, konteks, logika, riwayat, dan integrasi, disimpan dalam bentuk yang tidak mudah kita bawa. Owned AISistem owned AI bukan berarti kita melatih large language model kita sendiri dari awal. Bagi hampir setiap bisnis, itu akan menjadi pengeluaran yang sangat besar dan tidak perlu. AI milik sendiri berarti kita mengontrol lapisan sistem yang membawa keunggulan kita. Kita menyimpan data dan pengetahuan kita dalam format dan lokasi yang kita kendalikan. Alur kerja dan logika agen kita berada dalam kode atau konfigurasi yang dapat kita baca, buat versi, dan pindahkan. Prompt, alat, dan kasus uji kita adalah aset dalam repositori kita sendiri. Dan model yang mendasarinya adalah komponen yang dapat kita ganti, bukan fondasi yang tidak dapat diubah. Sistem milik sendiri dapat, dan biasanya memang, tetap memanggil model vendor melalui API. Perbedaannya adalah model tersebut merupakan bagian yang dapat diganti. Jika penyedia menggandakan harganya, menghentikan model, membatasi akses kita, atau dikalahkan oleh pesaing, kita mengubah pengaturan dan menjalankan kembali pengujian kita. Kita tidak membangun kembali bisnis kita. Tiga LayerCara yang berguna untuk mengorganisir ide ini adalah dengan memikirkannya dalam tiga layer. Di bagian bawah adalah layer model, yaitu large language model dan layanan terkait yang menyediakan kecerdasan mentah. Bagi sebagian besar bisnis, layer ini sebaiknya disewa, karena model-model mutakhir mahal untuk dibangun dan ditingkatkan dengan cepat. Di tengah adalah layer sistem, yaitu orkestrasi, retrieval, alat, integrasi, guardrail, dan antarmuka yang mengubah model menjadi sesuatu yang berguna untuk pekerjaan spesifik kita. Layer inilah tempat kepemilikan mulai menjadi penting. Di bagian atas adalah layer aset, yaitu data milik kita, proses yang terdokumentasi, set evaluasi kita, koreksi dan umpan balik yang terkumpul, dan pengetahuan institusional kita. Ini adalah layer yang harus sepenuhnya menjadi milik kita, karena ini adalah bagian yang tidak dapat ditiru oleh orang lain. Mengapa Menyewa Terasa Tepat di AwalMenyewa itu cepat. Sebuah tim dapat menggunakan asisten yang mumpuni dalam hitungan menit, tanpa infrastruktur, tanpa perekrutan, dan tanpa siklus pengadaan. Menyewa murah untuk memulai. Biaya berlangganan bulanan hanyalah sebagian kecil dibandingkan dengan biaya membangun software kustom, dan hal itu meminimalkan kerugian jika sebuah eksperimen gagal. Menyewa memberikan kualitas yang sulit ditandingi. Model dan alat komersial terbaik adalah produk dari sumber daya yang besar, dan untuk tugas-tugas umum seperti menyusun draf, meringkas, menerjemahkan, dan bertukar pikiran, alat-alat tersebut sangat bagus. Dan menyewa mengalihkan beban pemeliharaan. Orang lain menangani pembaruan, tambalan keamanan, penskalaan, dan waktu aktif. Untuk eksperimen awal, tim kecil, atau tugas non-inti, keuntungan-keuntungan ini sangat menentukan, dan tidak ada satu pun dalam pembahasan ini yang seharusnya membuat kita mengurungkan niat untuk menyewa. Masalah dimulai ketika alat sewaan diam-diam berubah dari sebuah eksperimen menjadi infrastruktur, ketika sesuatu yang mulai kita gunakan pada hari Selasa menjadi tempat di mana hubungan pelanggan kita, logika penetapan harga kita, atau proses pengiriman inti kita benar-benar berada, dan tidak ada yang pernah memutuskan bahwa itu seharusnya demikian. Biaya Tersembunyi Membangun di Lahan SewaRisiko menyewa bukanlah teori semata. Selama beberapa tahun terakhir, industri AI telah menghasilkan banyak contoh nyata. Contoh-contoh di bawah ini terdokumentasi dengan baik dan menggambarkan berbagai jenis risiko. Harga dan Ketentuan Berubah Tanpa Kendali KitaPada Juni 2025, editor kode AI populer Cursor mengubah cara kerja paket Pro seharga $20 per bulan, beralih dari jumlah permintaan cepat tetap ke kumpulan kredit penggunaan yang terkait dengan biaya model yang mendasarinya. Harga utama tetap sama, tetapi apa yang didapatkan dengan harga tersebut berubah. Beberapa pengguna mendapati kuota mereka habis jauh lebih cepat dari yang diharapkan, dan beberapa dikenakan biaya yang tidak terduga. Perusahaan meminta maaf secara publik pada awal Juli dan menawarkan pengembalian dana untuk biaya tak terduga yang terjadi antara 16 Juni dan 4 Juli. Pelajaran yang dapat diambil bukanlah bahwa Cursor berperilaku buruk. Vendor menghadapi tekanan biaya nyata, karena model yang mendasarinya mahal untuk dijalankan, dan mereka terkadang harus merestrukturisasi rencana mereka. Pelajaran yang dapat diambil adalah bahwa ketentuan yang kita bangun dalam alur kerja kita bukanlah milik kita sepenuhnya. Sebuah tim yang telah menstandarisasi pengaturan lama menemukan bahwa asumsi biaya inti telah berubah tanpa masukan dari mereka. Akses Dapat HilangPada awal Juni 2025, alat coding AI Windsurf mengumumkan bahwa Anthropic telah memutus hampir semua akses langsungnya ke model Claude 3.x dengan pemberitahuan kurang dari lima hari. CEO Windsurf mengatakan perusahaan bersedia membayar untuk kapasitas tersebut. Salah satu pendiri Anthropic, Jared Kaplan, kemudian menjelaskan bahwa keputusan tersebut sebagian besar didorong oleh laporan bahwa OpenAI mengakuisisi Windsurf, dan mengatakan akan aneh jika menjual Claude ke OpenAI. Windsurf bergegas mencari sumber kapasitas lain, dan pengguna masih dapat mengakses Claude melalui pengaturan "bring-your-own-key". Contoh ini patut direnungkan, terutama karena melibatkan salah satu penyedia model terbesar yang bertindak sesuai haknya untuk alasan strategis. Produk yang dibangun di atas pemasok model akan terpapar pada keputusan bisnis pemasok tersebut, termasuk keputusan yang tidak ada hubungannya dengan kualitas produk atau pelanggannya. Jika kita adalah bisnis yang membangun di atas alat seperti itu, kita mewarisi risiko tersebut secara tidak langsung. Pola yang sama berlaku untuk platform, bukan hanya model. Pada tahun 2025, Glitch, platform yang sangat populer untuk membangun dan menghosting aplikasi kecil, menghentikan hosting proyeknya, memberi pengguna waktu terbatas untuk memindahkan pekerjaan mereka. Siapa pun yang alur kerjanya sepenuhnya bergantung di sana harus bergegas mencari solusi. Model Berubah, dan Alur Kerja Kita MerasakannyaPada Agustus 2025, ketika OpenAI meluncurkan GPT-5, mereka menghapus GPT-4o dan beberapa model lainnya dari pemilih model ChatGPT tanpa banyak peringatan. Reaksi negatif sangat kuat, dengan pengguna berbayar melaporkan bahwa alur kerja yang sudah mapan terganggu, dan dalam beberapa hari perusahaan mengembalikan GPT-4o untuk pengguna berbayar dan menjanjikan pemberitahuan yang cukup sebelum penghapusan di masa mendatang. Beberapa bulan kemudian, OpenAI mengumumkan akan menghentikan dukungan GPT-4o dari ChatGPT pada tahun 2026, dan secara terpisah memberi pelanggan API pemberitahuan sekitar tiga bulan bahwa alias model GPT-4o akan dihentikan dari platform pengembang pada pertengahan Februari 2026. Perhatikan perbedaan perlakuan terhadap kedua kelompok tersebut. Konsumen produk obrolan mengalami kejutan. Developer yang menggunakan API menerima jadwal penghentian dukungan yang telah dipublikasikan. Kontras tersebut mengisyaratkan sebagian dari jawabannya, yaitu semakin dekat kita dengan lapisan mentah yang dapat diprogram, semakin banyak perhatian dan kendali yang cenderung kita miliki, sementara semakin kita bergantung pada produk yang sudah dipoles dan dikemas, semakin kita bergantung pada kebijakan vendor. Ada juga biaya yang lebih halus. Model berbeda dalam nada, format, dan penilaian. Ketika sebuah model diperbarui atau diganti, perintah yang menghasilkan hasil yang andal dapat mulai menghasilkan hasil yang berbeda, dan tanpa cara untuk menguji, kita mungkin tidak menyadarinya sampai pelanggan menyadarinya. Alat sewaan jarang memberi kita sarana untuk mengukur penyimpangan tersebut. Sistem milik sendiri dapat melakukannya, karena kita yang melakukan pengujian. Pengetahuan Kita Berakhir di Balik Dinding Orang LainPertimbangkan di mana pengetahuan AI yang diperoleh dengan susah payah oleh organisasi kita sebenarnya berada. Perintah terbaik mungkin terkubur dalam riwayat obrolan individu. Instruksi khusus yang mengkodekan suara merek kita mungkin berada di dalam pengaturan satu vendor. Otomatisasi yang cerdas mungkin hanya ada sebagai diagram visual di dalam pembuat tanpa kode, tanpa ekspor yang dapat dibaca. Koreksi yang dilakukan tim kita selama berbulan-bulan, yang mengajarkan asisten tentang seperti apa hasil yang baik, mungkin tersimpan dalam fitur memori yang tidak dapat kita unduh. Ini adalah bentuk penguncian yang senyap, dan lebih berbahaya daripada perubahan harga karena tidak terlihat sampai kita mencoba untuk beralih. Data tersebut secara teknis mungkin milik kita, namun dalam praktiknya terperangkap dalam bentuk yang tidak dapat dipindahkan. Kita tidak akan mengetahui biaya peralihan yang sebenarnya sampai kita perlu beralih. Privasi, Kepatuhan, dan KontrolSetiap kali informasi sensitif melewati alat pihak ketiga, kita akan menghadapi pertanyaan tentang retensi, pelatihan penggunaan, akses oleh staf vendor, penyimpanan regional, dan penemuan hukum. Vendor yang bereputasi menawarkan perlindungan yang kuat, dan banyak yang menawarkan komitmen kontraktual yang sangat memadai untuk data bisnis biasa. Tetapi jika kita menangani informasi yang diatur, rahasia, atau dibatasi secara kontraktual, kita perlu tahu persis ke mana informasi itu pergi dan dapat membuktikannya. Itu jauh lebih mudah ketika lapisan data adalah milik kita dan modelnya diakses melalui jalur yang terkontrol dan dapat diaudit. Semua Orang Menyewa Hal yang SamaAda juga masalah strategis. Jika pesaing kita dapat menyewa asisten yang sama, alat penulisan yang sama, dan platform otomatisasi yang sama, maka menggunakannya tidak memberikan keuntungan apa pun. Itu hanya memberikan kesamaan. Yang membedakan kita adalah apa yang kita tambahkan di atasnya, seperti: data, proses, penilaian, dan pemahaman pelanggan kita. Jika semua itu dituangkan ke dalam alat sewaan dan tidak dapat diekstraksi, kita tidak membangun aset. Kita membayar biaya untuk mempertahankan posisi kita saat ini. Kurva Biaya pada Skala BesarTerakhir, ada perhitungan aritmatika. Harga per kursi dan per penggunaan sangat bagus pada skala kecil dan dapat menjadi menyakitkan pada skala besar. Langganan yang murah untuk tim yang terdiri dari lima orang dapat menjadi pengeluaran besar untuk tim yang terdiri dari lima ratus orang, dan harga berbasis penggunaan dapat berubah secara tidak terduga ketika volume meningkat. Sistem yang dimiliki sendiri memiliki biaya tersendiri, yang akan kita bahas secara jujur di bawah ini, tetapi cenderung memberi kita lebih banyak kendali untuk mengelola pengeluaran, seperti: caching, mengarahkan tugas-tugas sederhana ke model yang lebih murah, pengelompokan, dan dalam beberapa kasus menjalankan model open-weight pada infrastruktur kita sendiri. Apa yang Sebenarnya Kita Dapatkan dari KepemilikanKepemilikan memberi kita portabilitas. Karena data, logika, dan pengujian kita berada di sistem kita sendiri, kita dapat mengubah model, vendor, atau hosting dengan jauh lebih mudah. Kepemilikan memberi kita aset yang terus bertambah. Setiap dokumen yang kita kurasi, setiap kasus evaluasi yang kita tulis, dan setiap peningkatan yang kita lakukan pada alur kerja kita terakumulasi di tempat yang kita simpan, sehingga sistem menjadi lebih baik dari waktu ke waktu alih-alih diatur ulang setiap kali kita mengganti alat. Kepemilikan memberi kita kendali atas perilaku, seperti: kita memutuskan kapan harus melakukan peningkatan, kita dapat menetapkan versi model, dan kita dapat memverifikasi bahwa perubahan tersebut bermanfaat sebelum mencapai pelanggan. Kepemilikan memberi kita ekonomi yang lebih baik dalam skala besar, melalui perutean, caching, dan opsi untuk melakukan hosting sendiri secara selektif. Kepemilikan memberi kita tata kelola yang lebih kuat, karena kita dapat mencatat apa yang diminta, apa yang diambil, dan apa yang dikembalikan, dan menunjukkannya kepada auditor. Dan kepemilikan memberi kita daya tawar. Pelanggan yang dapat beralih adalah pelanggan yang ingin dipertahankan oleh vendor. Pelanggan yang tidak dapat beralih tidak memiliki daya tawar. Mungkin yang terpenting, kepemilikan memungkinkan kita membangun sesuatu yang benar-benar berbeda. Asisten yang mengetahui produk, kebijakan, pelanggan, dan standar kualitas kita bukanlah sesuatu yang dapat dibeli pesaing begitu saja. Biaya Sejujurnya dari KepemilikanMembangun membutuhkan waktu rekayasa, dan waktu rekayasa sangat terbatas. Bahkan sistem milik sendiri yang sederhana pun membutuhkan seseorang untuk mendesainnya, memeliharanya, memantaunya, dan memperbaikinya ketika rusak. Hal ini membutuhkan perhatian terhadap keamanan, karena kita sekarang bertanggung jawab atas kontrol yang sebelumnya disediakan oleh vendor. Hal ini membutuhkan disiplin evaluasi, karena tanpa polesan vendor, kita harus memverifikasi kualitas sendiri. Hal ini dapat memperlambat kita di awal, ketika kecepatan paling penting. Dan ada risiko optimasi prematur: tim yang membangun infrastruktur khusus yang rumit sebelum mereka tahu apa yang sebenarnya mereka butuhkan seringkali berakhir dengan sistem mahal yang tidak sesuai dengan apa pun. Ada juga godaan untuk mengacaukan kepemilikan dengan melakukan semuanya sendiri. Memiliki lapisan sistem tidak berarti menulis setiap komponen dari awal. Kita dapat menggunakan framework open source, database terkelola, dan API model komersial sambil tetap mempertahankan kendali, karena yang penting adalah kita dapat mengganti salah satunya. Oleh karena itu, sikap yang tepat bukanlah "jangan pernah menyewa" tetapi "sewa dengan sengaja, miliki secara strategis." Tujuannya adalah untuk secara sengaja menentukan bagian mana dari kemampuan AI kita yang bersifat strategis, dan untuk memastikan bagian-bagian tersebut tidak terperangkap. Apa yang Harus Disewa dan Apa yang Harus DimilikiCara praktis untuk mengambil keputusan adalah dengan mengajukan serangkaian pertanyaan singkat tentang kemampuan AI tertentu. Pertama, tanyakan seberapa penting kemampuan tersebut bagi keunggulan kompetitif kita. Alat yang membersihkan audio atau menghasilkan gambar stok generik bukanlah hal yang membuat bisnis kita istimewa, jadi menyewa tidak masalah. Sistem yang mengkodekan cara kita menetapkan harga, cara kita mendiagnosis masalah pelanggan, atau cara kita memberikan layanan inti adalah bagian dari keunggulan kita, dan itu layak menjadi milik kita. Tanyakan seberapa sensitif data yang terlibat. Materi pemasaran publik berisiko rendah. Catatan pelanggan, kontrak, keuangan, informasi kesehatan, dan rahasia dagang membutuhkan kontrol yang lebih ketat. Tanyakan seberapa mahal biaya untuk beralih. Jika kita dapat mengganti alat tersebut dalam satu sore tanpa kerugian, risiko ketergantungannya kecil. Jika menggantinya berarti membangun kembali konfigurasi dan pengetahuan yang telah terakumulasi selama berbulan-bulan, itu adalah tanda peringatan. Tanyakan seberapa cepat kemampuan yang mendasarinya menjadi komoditas. Kecerdasan model mentah terus meningkat dan menjadi lebih murah dengan cepat, yang merupakan alasan untuk menyewanya dan menghindari komitmen jangka panjang. Konteks kepemilikan kita tidak menjadi komoditas, yang merupakan alasan untuk mempertahankannya. Tanyakan berapa banyak volume yang kita harapkan. Eksperimen volume rendah lebih menguntungkan dengan menyewa. Beban kerja volume tinggi dan stabil adalah saat pendekatan kepemilikan atau hibrida sering mulai menguntungkan. Tanyakan seberapa andal dan dapat diauditnya sistem tersebut. Jika kegagalan merugikan atau regulator peduli, kontrol menjadi lebih penting. Dengan menerapkan pertanyaan-pertanyaan ini, sebagian besar bisnis akhirnya sampai pada pembagian yang masuk akal. Mereka menyewa asisten serbaguna untuk produktivitas individu, utilitas komoditas untuk transkripsi, desain, dan tugas serupa, dan model mutakhir untuk intelijen mentah. Mereka memiliki basis pengetahuan mereka, saluran pengambilan dan konteks mereka, logika alur kerja dan agen inti mereka, set evaluasi mereka, integrasi mereka dengan sistem internal, dan data mereka. Dengan kata lain, mereka menyewa komoditas dan memiliki konteksnya. Anatomi Sistem AI Milik SendiriSeperti apa sistem milik sendiri dalam praktiknya? Detailnya bervariasi tergantung bisnis, tetapi arsitektur yang sehat cenderung memiliki bentuk yang mudah dikenali. Anggap saja sebagai serangkaian lapisan, yang masing-masing dapat diganti. Layer Data dan PengetahuanPada dasarnya terdapat data kita, seperti: dokumen, catatan, percakapan, kebijakan, informasi produk, dan apa pun yang perlu diketahui sistem. Data ini tersimpan dalam penyimpanan yang kita kendalikan, baik itu akun cloud kita sendiri, database terkelola, atau penyimpanan dokumen, dalam format terbuka dan dapat diekspor. Di atasnya terdapat layer pengambilan yang mengindeks konten, biasanya dengan penyematan dalam penyimpanan vektor atau indeks pencarian, sehingga materi yang relevan dapat diambil sesuai permintaan dan diberikan ke model. Ini adalah pola retrieval-augmented generation, dan memilikinya berarti pengetahuan kita tidak pernah disandera oleh memori milik produk obrolan. Layer OrkestrasiSelanjutnya adalah logika yang mengkoordinasikan semuanya, yaitu alur kerja yang menentukan apa yang terjadi dan dalam urutan apa, agen yang merencanakan dan bertindak, aturan kapan harus meminta bantuan manusia, dan batasan yang menjaga perilaku tetap terkendali. Logika ini harus berada dalam kode atau konfigurasi yang mudah dibaca di repositori kita sendiri, di bawah kendali versi, dengan pengujian. Kita dapat membangunnya dengan framework open source atau kode kustom sederhana. Yang penting adalah kita dapat membacanya, mengubahnya, dan memindahkannya. Gerbang ModelAntara sistem kita dan model terdapat abstraksi tipis, yang sering disebut gerbang atau router model. Aplikasi kita meminta kemampuan, seperti peringkasan, klasifikasi, atau penalaran, dan gerbang memutuskan model mana yang akan dipanggil dan bagaimana caranya. Karena semuanya melewati layer ini, mengganti penyedia, menambahkan cadangan, mengarahkan tugas-tugas mudah ke model yang lebih murah, atau menguji rilis baru menjadi perubahan konfigurasi daripada penulisan ulang. Ini adalah keputusan arsitektur paling berharga untuk menghindari ketergantungan pada satu vendor. Ini juga memungkinkan kita untuk menyertakan model open-weight sebagai pilihan ketika privasi, biaya, atau ketersediaan menuntutnya. Layer AlatAgen dan alur kerja perlu bertindak pada sistem kita, seperti: mencari pelanggan, membuat tiket, memperbarui catatan, mengirim email. Mengekspos tindakan ini melalui standar terbuka membuatnya portabel. Model Context Protocol telah menjadi cara umum untuk mendeskripsikan alat dan sumber data sehingga agen yang kompatibel dapat menggunakannya, dan membangun integrasi kita sebagai server yang kita miliki berarti integrasi tersebut tetap berfungsi meskipun terjadi perubahan model atau framework. Untuk sistem yang perlu bekerja sama antar tim atau perusahaan, protokol Agent2Agent menawarkan cara standar bagi agen untuk saling menemukan dan bertukar tugas tanpa mengekspos internalnya. Harness EvaluasiMungkin komponen yang paling diremehkan adalah serangkaian pengujian. Harness evaluasi yang baik berisi contoh realistis dari tugas-tugas yang harus dilakukan sistem kita, beserta kriteria untuk menilai hasilnya. Jalankan setiap kali kita mengubah perintah, model, atau alat, dan kita akan tahu apakah perubahan tersebut membantu atau merugikan. Inilah yang mengubah penggantian model dari tindakan yang penuh risiko menjadi keputusan rutin, dan secara langsung mengatasi masalah penyimpangan diam-diam ketika vendor mengubah model mereka. Kumpulan evaluasi kita juga merupakan salah satu aset kita yang paling berharga, karena ia mengkodekan definisi kualitas kita. Observabilitas dan Tata KelolaTerakhir, kita perlu dapat melihat apa yang dilakukan sistem, seperti: log input, konteks yang diambil, panggilan alat, output, biaya, dan latensi, dengan perlindungan privasi yang sesuai. Observabilitas mendukung debugging, pengendalian biaya, pemantauan kualitas, dan kepatuhan. Ini juga menyediakan jejak audit yang semakin diharapkan oleh regulator dan pelanggan perusahaan. AntarmukaTerakhir, tempat-tempat di mana orang menggunakan sistem, baik itu jendela obrolan, bot Slack, integrasi email, aplikasi web, atau fitur di dalam produk kita, harus berupa lapisan tipis di atas inti sistem. Jika antarmuka tersebut adalah front-end yang disewa, pastikan logika di baliknya bukan. Jalur Praktis dari Sewa ke Milik SendiriKabar baiknya adalah kita tidak perlu meninggalkan alat kita atau melakukan penulisan ulang besar-besaran. Transisi yang paling efektif bersifat bertahap, dan dimulai dengan langkah-langkah yang biayanya sangat kecil. Tahap Nol: InventarisasiMulailah dengan membuat daftar setiap alat AI dan langganan yang digunakan, siapa yang menggunakannya, data apa yang disentuhnya, dan apa yang akan rusak jika alat tersebut hilang besok. Banyak organisasi menemukan alat yang tidak mereka ketahui sebelumnya. Tandai masing-masing sebagai eksperimental, bermanfaat, atau penanggung beban. Yang penanggung beban adalah tempat risiko kita terkonsentrasi. Tahap Satu: Keluarkan Pengetahuan KitaSelanjutnya, keluarkan aset berharga dari silo vendor dan ke tempat yang kita kendalikan. Salin petunjuk dan instruksi terbaik kita ke dalam repositori dengan kontrol versi. Simpan dokumen referensi, kebijakan, panduan gaya, dan informasi produk kita dalam sistem bersama yang kita miliki. Ekspor definisi alur kerja di mana pun alat mengizinkannya, dan catat logika dari alat yang tidak mengizinkannya. Langkah ini murah, dapat dilakukan dalam beberapa hari, dan segera mengurangi ketergantungan kita, karena meskipun kita tetap menggunakan alat yang sama, kita sekarang dapat membangun ulang di tempat lain. Tahap Kedua: Bangun Kumpulan Evaluasi KitaKumpulkan contoh nyata dari tugas-tugas yang kita andalkan pada AI, beserta contoh jawaban yang baik. Mulailah dengan dua puluh atau tiga puluh contoh, dan kembangkan seiring waktu. Ini memberi kita cara objektif untuk membandingkan alat dan model, dan merupakan dasar untuk setiap perubahan aman yang akan kita lakukan nanti. Tahap Ketiga: Letakkan Gerbang di Depan ModelPerkenalkan lapisan tipis dalam kode atau alat kita yang melaluinya panggilan model dialihkan. Bahkan jika kita hanya menggunakan satu penyedia pada awalnya, abstraksi tersebut menciptakan opsi untuk beralih. Tambahkan penyedia kedua sebagai cadangan dan uji terhadap kumpulan evaluasi kita. Investasi kecil ini memberikan ketahanan yang luar biasa. Tahap Empat: Pindahkan Alur Kerja Inti ke Sistem yang Kita KendalikanPilih alur kerja yang paling sentral bagi bisnis kita dan paling dibatasi oleh alat yang ada saat ini. Bangun kembali dalam kode atau di platform yang definisinya dapat kita ekspor, menggunakan basis pengetahuan kita, gateway kita, dan set evaluasi kita. Jalankan yang lama dan yang baru secara paralel hingga kita mempercayai yang baru. Kemudian pindah ke alur kerja berikutnya. Jangan mencoba memigrasikan semuanya sekaligus. Tahap Lima: Pilih Sendiri Hosting di Tempat yang MenguntungkanUntuk beban kerja dengan volume tinggi, persyaratan privasi yang ketat, atau kebutuhan akan ketersediaan yang terjamin, evaluasi model open-weight yang berjalan pada infrastruktur yang kita kendalikan. Ini adalah optimasi, bukan titik awal, dan hanya masuk akal jika ekonomi atau persyaratan membenarkan beban operasional. Banyak organisasi tidak pernah perlu melangkah lebih jauh dari gateway yang baik dan beragam model sewaan. Versi untuk Tim KecilJika kita adalah pendiri tunggal atau tim kecil, jangan takut dengan arsitektur di atas. Versi untuk tim kecil cukup sederhana: simpan petunjuk, dokumen, dan alur kerja utama kita dalam folder atau repositori yang kita kendalikan; gunakan alat yang memungkinkan kita mengekspor; pilih produk yang memungkinkan kita membawa kunci model sendiri; dan catat prosesnya agar pembangunan ulang dapat dilakukan. Itu saja sudah mencakup sebagian besar manfaatnya. Advertisement:
Catatan tentang KeseimbanganAkan menjadi kesalahan jika menyimpulkan dari pembahasan ini bahwa vendor adalah penjahat. Perusahaan-perusahaan di balik alat-alat ini umumnya berusaha membangun produk yang baik di bawah tekanan biaya dan persaingan yang serius, dan dalam contoh-contoh di atas, mereka bertindak sesuai hak mereka dan, dalam beberapa kasus, menyesuaikan arah setelah menerima umpan balik. Intinya bersifat struktural daripada moral, yaitu ketika kita bergantung pada produk orang lain untuk sesuatu yang penting, insentif mereka dan kebutuhan kita terkadang akan berbeda, dan strategi yang baik mempersiapkan diri untuk hal itu. Prinsip yang sama berlaku untuk penyedia model yang namanya tercantum di atas. Model-model terdepan sangat luar biasa, dan membangun tanpa model-model tersebut akan menjadi kesalahan yang merugikan diri sendiri. Strategi di sini adalah menggunakannya sebagai komponen yang kuat dan dapat diganti, dengan sistem kita sendiri yang membungkusnya. Jadi, menyewa AI adalah cara yang sangat baik untuk memulai dan cara yang sangat baik untuk menangani tugas-tugas umum. Yang perlu diwaspadai adalah membangun inti bisnis kita di dalam alat yang tidak dapat kita tinggalkan, karena dunia telah menunjukkan betapa cepatnya perubahan dapat terjadi, yaitu harga direstrukturisasi dalam semalam, akses ditarik dengan pemberitahuan beberapa hari, model dihentikan dari proses yang sedang berjalan, dan platform ditutup. Alternatifnya bukanlah membangun semuanya sendiri. Alternatifnya adalah bersikap cermat terhadap tiga lapisan kemampuan AI kita. Sewa modelnya, karena model tersebut terus berkembang dan menjadi komoditas dengan cepat. Miliki sistem di sekitarnya, karena sistem tersebut mengkodekan cara kerja bisnis kita sebenarnya. Dan pertahankan data, pengetahuan, petunjuk, dan set evaluasi kita sebagai aset permanen, karena itu adalah satu-satunya bagian yang terus bertambah nilainya dari waktu ke waktu dan satu-satunya bagian yang tidak dapat disewa oleh pesaing. Artikel Terkait:
|