Gunakan chatgpt offline dengan menjalankan GPT-OSS secara lokal di komputer Anda

Openai telah merilis model AI open-source pertamanya yang disebut "GPT-OSS," yang dapat melakukan serupa dengan model GPT-O3-nya, yang sama yang digunakan oleh ChatGPT beberapa bulan yang lalu. Kami sekarang dapat menggunakan LLM baru ini untuk menjalankan chatgpt offline. Ini dapat dilakukan di komputer Windows atau MacOS apa pun dengan menjalankan model AI secara manual secara lokal. Berikut panduan langkah demi langkah.

Apa itu GPT-OSS?

GPT-OSS adalah model bahasa besar open-source dengan hingga 120 miliar parameter. Ini menawarkan keterampilan penalaran dan kemampuan menulis yang mirip dengan GPT-O3 Mini. LLM dapat dimuat pada mesin apa pun dengan minimal RAM 16GB. Dengan kata-kata sederhana, komputer mana pun yang memenuhi persyaratan perangkat keras dasar sekarang dapat menjalankan versi offline chatgpt dengan menggunakan GPT-OSS.

LLM ini tersedia dalam dua varian:GPT-OSS-120BDanGPT-OSS-20B, di mana angka tersebut menunjukkan jumlah parameter. 120B menawarkan lebih banyak konteks dan presisi yang lebih baik dalam jawaban, tetapi membutuhkan lebih banyak sumber daya komputasi, sedangkan 20B lebih cocok untuk pengguna yang ringan dan biasa.

Baca juga:Gunakan AI Chatbots tanpa Internet di telepon

Jalankan GPT-OSS Menggunakan LM Studio

LM Studio adalah perangkat lunak gratis yang memungkinkan Anda menjalankan model bahasa besar secara lokal di komputer Anda. Ini juga menyediakan antarmuka pengguna yang rapi, mirip dengan chatgpt. Inilah cara Anda dapat menggunakannya untuk menjalankan GPT-OSS.

1.Unduh dan instalLM Studiodi komputer Anda.

2.Jenislms get openai/gpt-oss-20buntuk mengunduh LLM di mesin Anda.

3.Pilih dan muatGPT-OSS-20Bmodel.

4.Langkah ini bisaluangkan hingga lima menit, tergantung pada seberapa kuat sistem Anda.

5.Setelah model dimuat, Anda dapat memasukkan pertanyaan Anda di kotak teks dan menggunakannya seperti chatgpt.

LM Studio adalah metode yang cepat, mudah, dan efektif untuk memuat GPT-OS di komputer atau laptop Anda. Namun, aplikasi itu sendiri mengkonsumsi sumber daya yang signifikan, karena sistem Anda kelebihan beban setelah Anda mulai menjalankan LLM. Oleh karena itu, Anda mungkin menghadapi perlambatan saat menggunakannya, atau kadang -kadang, komputer Anda dapat menggantung sementara. Masalah ini akan lebih umum pada sistem yang lebih lama, bahkan jika mereka memenuhi persyaratan perangkat keras.

Sebelumnya, kami juga telah menguji model AI lain seperti Deepseek R1, Llama, dan LLMs open-source lainnya di sistem kami, dan kami tidak menghadapi masalah. Namun, kami mengalami kelambatan yang signifikan saat menjalankan GPT-OSS, yang menunjukkan bahwa itu lebih berat dibandingkan dengan model AI lainnya. Lebih mudah menggunakan versi online chatgpt, daripada mencoba menjalankannya secara lokal di sistem Anda, karena hanya mencekik komputer Anda ke titik di mana ia menjadi tidak dapat digunakan.

Baca juga:Periksa apakah teks yang dihasilkan chatgpt Anda memiliki tanda air tersembunyi

Gunakan GPT-OSS menggunakan prompt perintah

Jika Anda memiliki komputer yang lebih tua atau sistem yang lebih lemah, maka Anda tidak akan memiliki pengalaman terbaik dalam menjalankan GPT-OSS menggunakan LM Studio. Dalam kasus seperti itu, Anda dapat menjalankan LLM secara langsung di prompt perintah Anda, dengan menggunakan Ollama. Proses ini mengkonsumsi sumber daya yang relatif lebih sedikit karena tidak ada GUI yang terlibat, dan ini juga melewatkan pemasangan manual Python yang diperlukan dan perpustakaan lain yang diperlukan untuk menjalankan model. Ikuti langkah -langkah ini:

Lihat juga:

1.Unduh dan instalOllamadi komputer Anda.

2.Buka prompt perintah di sistem dan ketikollama pull gpt-oss:20buntuk mengunduh GPT-OSS-20B.

3.Setelah unduhan selesai, ketikollama run gpt-oss:20bUntuk menjalankan model AI secara lokal di komputer Anda.

4.Anda sekarang dapat mengetik pertanyaan Anda dan mendapatkan jawaban secara langsung di prompt perintah, dan seluruh proses bekerja secara offline.

Waktu respons menjalankan GPT-OSS di CMD menggunakan Ollama masih belum secepat menggunakan chatgpt online biasa, tetapi lebih baik daripada menggunakan LM Studio. Jika Anda menginginkan antarmuka grafis, maka Anda juga dapat mengikuti proses yang sama dengan membuka aplikasi Ollama secara manual di komputer Anda.

Cara terbaik untuk menjalankan GPT-OSS secara lokal

Kami menguji GPT-OSS dengan menjalankannya secara lokal di komputer kami dengan tiga cara berbeda, dan begitulah caranya:

Kami melakukan tes ini di komputer Windows dan MacBook, dan hasilnya sangat mirip. Berdasarkan pengalaman kami, tidak layak untuk menggunakan GPT-OS untuk menjalankan versi offline chatgpt. Ini terlalu lamban, dan responsif keseluruhan tidak sebagus. Terkadang, dibutuhkan hingga 10-15 menit untuk menghasilkan jawaban satu kalimat sederhana.

FAQ

Q. Apakah GPT-OS berbagi data?

LLM GPT-OSS berjalan secara lokal di sistem Anda, dan tidak berbagi data apa pun dengan OpenAI atau perusahaan lain.

Q. Apakah GPT-OS lebih baik dari chatgpt?

Model GPT-OSS memiliki kinerja yang sama dengan model mini GPT-O3. Namun, ChatGPT sekarang menggunakan GPT-4O dan model canggih lainnya yang lebih cepat dan lebih baik, maka chatgpt adalah yang lebih baik dari keduanya.

Q. Mana yang lebih baik, GPT-OSS atau Deepseek?

Sesuai tolok ukur, GPT-OSS memiliki penalaran dan keterampilan pemecahan masalah yang lebih baik. Namun, Deepseek menawarkan lebih banyak keserbagunaan dengan penulisan kreatif dan tugas serupa.

Membungkus

Chatgpt oleh Openai tidak diragukan lagi adalah chatbot AI paling populer, yang digunakan oleh jutaan orang di seluruh dunia. GPT-OSS LLM baru menciptakan peluang baru bagi pengembang untuk mengintegrasikan kekuatan yang mirip dengan chatgpt, dalam versi gratis. Perhatikan bahwa API reguler dari chatgpt dibayar, sedangkan GPT-OSS adalah open source, artinya, kami akan menyaksikan beberapa proyek AI kreatif berdasarkan model baru ini selama beberapa bulan mendatang.

Punya pertanyaan yang terkait dengan pemandu cara kami, atau apa pun di dunia teknologi? Lihat baru kamiGadgetstouse AI Chatbot Gratis, ditenagai oleh chatgpt.