يەرلىكتە ئىشلەيدىغان سۈنئىي ئەقىل مودېللىرىنى قاچىلاش ۋە ئىشلىتىش ھەققىدە چۈشەنچە


ئاپتور: Claude 3.7 Sonnet، سەھىپە: سۈنئىي ئەقىل
Monday, 01 January 0001 ئىلان قىلىندى، 63 قېتىم ئوقۇلدى

سۈنئىي ئەقىل تېخنىكىسى كۈندىن-كۈنگە تەرەققىي قىلىۋاتقان بۇ دەۋردە، كۆپلىگەن كىشىلەر ChatGPT، Claude، Copilot ياكى Gemini دېگەندەك توردىكى سۈنئىي ئەقىل مۇلازىمەتلىرىدىن پايدىلىنىپ كەلمەكتە. بىراق بۇ مۇلازىمەتلەرنىڭ بىر قىسىم چەكلىمىلىرى بار، مەسىلەن تور بىلەن مۇناسىۋەتلىك بولۇش، شەخسىي مەلۇماتلارنى قوغداش، ۋە مۇلازىمەت ھەققى تۆلەش قاتارلىقلار. بۇ چەكلىمىلەردىن قۇتۇلۇش ئۈچۈن، (بۇندىن كېيىن بۇ ماقالىدە ئۆزىڭىزنىڭ شەخسىي كومپيۇتېرىڭىزنى كۆرسىتىدىغان يەنى يەرلىكتە ئىشلىتىدىغان دېگەننىڭ ئورنىغا بىۋاستە يەرلىك ئىشلىتىلىدۇ) يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئىشلىتىش ياخشى بىر تاللاش بولالايدۇ. (بۇ ماقالىمۇ Claude 3.7 Sonnet نىڭ يازغىنى ئاساسىدا كېڭەيتىلدى.)

داڭلىق سۈنئىي ئەقىل مودېللىرى گەرچە ئەڭ يېڭى، ئەڭ ياخشى مودېللارنى تەمىنلىگەن ۋە مەلۇم چەكلىمىلەر بىلەن ھەقسىز ئىشلەتكىلى قويسىمۇ، ئەمما تور دۇنياسىدا بىلگىنىمىزدەك، بىزنىڭ شەخسىي ئۇچۇرلىرىمىز ( قايسى ئۈسكۈنىدە، قەيەردىن تىزىملاپ كىردۇقتىن تارتىپ، نېمىلەرنى پاراڭلاشتۇققىچە بولغان بارلىق ئۇچۇرلىرىمىز) ئېرىشەلەيدىغان ھەركىم ئۈچۈن يىغىپ ساقلايدىغان ۋە باشقا ئۇچۇرلار بىلەن بىرلەشتۈرۈپ، رەقەملىىك كىملىكىمىزنى، تارىخىمىزنى ھاسىل قىلىدىغان قىممەتلىك مەنبە. شۇڭا، ھەم ئۇچۇرلىرىمىزنى مەخپىي ساقلاش ھەمدە بۇ سۈنئىي ئەقىل دەۋرىنىڭ ئىمكانلىردىن پايدىلىنىش ئۈچۈن، شەخسىي كومپىيۇتېرلىرىمىزدا، تورنى تاقىۋىتىپ تۇرۇپمۇ ئىشلىتەلەيدىغان ۋە ئەڭ يېڭى ياكى ئۇنىڭ بىلەن تەڭلەشكۈدەك دەرىجىدە ياخشى بولغان يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئىشلىتىش ئادەمنى خېلىلا ھاياجانلاندۇرىدىغان ۋە قىزىقتۇرىدىغان بىر پۇرسەت.

ئەلۋەتتە يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئىشلىتىشنىڭ ئەۋزەللىكلىرى بولغىنىدەك، بەزى كەمچىلىكلىرىمۇ بار. مەسىلەن، يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئىشلىتىش ئۈچۈن ياخشىراق سەپلىمىلىك كومپىيۇتېر (ئەڭ ئاز 8 GB ئىچكى ساقلىغۇچ، نورمال ئىشلىتىش ئۈچۈن كەم دېگەندە 16 GB RAM بولۇشى لازىم. 32 GB ياكى 64GB بولۇشى تەۋسىيە قىلىنىدۇ.) بولۇشى، مەلۇم سەۋىيەدە تېخنىكىلىق بىلىمگە ئىگە بولۇش ۋە ئەڭ ياخشىسى دېمەكچى بولغانلىرىمىزنى ئىپادىلىيەلىگۈدەك ئېنگلىزچە سەۋىيەمىزنىڭ بولۇشى، بۇ يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئۈنۈملۈك ئىشلىتەلىشىمىزگە بىۋاستە باغلىنىشلىق. ئەگەر بۇ شەرتلەرنى ئورۇندىيالمىسىڭىز ياكى ئۇچۇر بىخەتەرلىكىنى ئۇنچىۋالا مۇھىم دەپ قارىمىسىڭىز ۋە مۇۋەپپەقىيەتسىز بولغاندا قايتا-قايتا ئىزدىنىپ، سىناپ باققۇدەك ئىرداىڭىز بولمىسا، ئەڭ ياخشىسى توردىكى مودا بولۇۋاتقان بىر نەچچە تەييار سۈنئىي ئەقىل مۇلازىمىتىنى ئىشلىتىش تېخىمۇ ئاقىلانە. چۈنكى بۇلارنىڭ كومپىيۇتېرغا بولغان تەلىپى خىلى يۇقىرى بولغاچقا بەزى مودېللارنى ئىشلەتكەندە، مەن بۇنىڭدىن تىزراق ئويلىيالايىتتىم دەپ قالىسىز. بۇلارنى قاچىلاش، تەڭشەش ۋە ئىشلىتىش جەريانى مۇرەككەپ، راۋۇرۇس قىزىقىشىڭىز بولمىسا، بۇلار بىلەن ھەپىلىشىپ يۈرۈپ ھېچبىر نەتىجە چىقىرالماسلىقىڭىز مۇمكىن. يەنە بىرسى، بۇ يەرلىك سۈنئىي ئەقىل مودېللىرى باشقا تىللاردا جاۋاپ بېرەلىسىمۇ ھازىرچە ھېچبىرى ئۇيغۇرچىدا كۆڭۈلدىكىدەك جاۋاب بېرەلمەيدۇ. ياخشىراق نەتىجىگە ئېرىشەي دېسىڭىز يەنىلا ئېنگلىزچە ئىشلىتىشكە توغىرا كىلىدۇ. ئەگەر ئۇيغۇرچە ئىشلەتكىڭىز بولسا، ھازىرچە ئەڭ ياخشىسى يەنىلا توردىكى داڭلىقراق مودىللارنى ئىشلەتكىنىڭىز تۈزۈك. قانداقلا بولمىسۇن، بۇلارنىڭ ھەممىسى ئوچۇق مەنبەلىك، ھەقسىز تارقىتىلغان مودېللار، ئەڭ يېڭى سودا خاراكتىرلىك مودېللاردىن بەزى جەھەتلەردە بىر ئىككى ئەۋلاد ئارقىدا تۇرىدۇ.

بۇ ماقالىدە، يەرلىك سۈنئىي ئەقىل مودېللىرىنى قاچىلاش ۋە ئىشلىتىش، قايسى مودېللارنى ئىشلىتىش ۋە ئۇلارنىڭ ئۈنۈمىنى قانداق يۇقىرى كۆتۈرۈش ھەققىدە تەپسىلىي چۈشەنچە بېرىمىز.

سۈنئىي ئەقىل مودىلى نېمە؟

سۈنئىي ئەقىل مودىلى بولسا كومپيۇتېر سىستېمىسىغا ئىنسانغا ئوخشاش ئۆگىنىش، مەسىلە ھەل قىلىش ۋە قارار چىقىرىش ئىقتىدارىنى بېرىدىغان بىر ماتېماتىكىلىق ياكى ھېسابلاش قۇرۇلمىسىدۇر. بۇ مودىللار چوڭ كۆلەملىك مەلۇماتلار ئارقىلىق ئۆگىنىپ، قانۇنىيەت ۋە مۇناسىۋەتلەرنى بايقايدۇ، شۇنداقلا يېڭى كىرگۈزۈلگەن مەلۇماتلارغا ئاساسەن يېڭى مەزمۇن ھاسىل قىلالايدۇ ياكى تەھلىل قىلالايدۇ. بۇ ئۆگىنىش ۋە تەربىيەلىنىش جەريانى مەلۇماتلارنىڭ چوڭلۇقى، پارمېتىرلار ۋە ھېسابلاش ئۇسۇللىرىنىڭ ئوخشىماسلىقىغا ئاساسەن مىڭلىغان كومپىيۇتېرلاردا بىر نەچچە كۈندىن بىر ياكى بىر نەچچە ئايغىچە داۋام قىلىدۇ. ئاخىرىدا ھاسىل بولغان بەزى مودېللارنى بىز ئۆزىمىزنىڭ كومپىيۇتېرىدىمۇ ئىشلىتەلەيمىز. ماشىنا ئۆگىنىشى، چوڭقۇر ئۆگىنىش، تىل مودىللىرى قاتارلىق نۇرغۇن تۈرلىرى بولۇپ، بۇلار تىبابەت، مالىيە، تەرجىمە ۋە سانائەت قاتارلىق كۆپلىگەن ساھەلەردە قوللىنىلماقتا، ئىنسانلارنىڭ كۈندىلىك تۇرمۇشىنى ۋە خىزمەت ئىشلىرىنى ئاسانلاشتۇرۇپ، ئۈنۈمىنى يۇقىرى كۆتۈرمەكتە.

يەرلىك سۈنئىي ئەقىل مودېللىرى نېمە ئۈچۈن مۇھىم؟

يەرلىك سۈنئىي ئەقىل مودېللىرى سىزنىڭ شەخسىي كومپيۇتېرىڭىزدا مۇستەقىل ئىشلەيدىغان مودېللار بولۇپ، ئۇلارنىڭ تۆۋەندىكىدەك ئالاھىدىلىكلىرى بار:

  • شەخسىي مەلۇمات بىخەتەرلىكى: مەلۇماتلىرىڭىز (قىلىشقان پاراڭلىرىڭىز، يوللىغان ھۆججەتلىرىڭىز قاتارلىقلار) سىزنىڭ كومپيۇتېرىڭىزدىن سىرتقا چىقمايدۇ، توردىكى باشقا مۇلازىمەتلەرگە يوللانمايدۇ.
  • تورسىز ئىشلىتىش: تور بولمىغان شارائىتتىمۇ سۈنئىي ئەقىل مودېللىرىنى ئىشلىتەلەيسىز.
  • ھەق تۆلىمەسلىك: بىر قېتىم قاچىلىغاندىن كېيىن، چەكسىز ۋە ھەقسىز ئىشلىتەلەيسىز.
  • باشقۇرۇش ئەركىنلىكى: مودېلنىڭ پارامېتىرلىرىنى ۋە ئىشلىتىش ئۇسۇلىنى ئۆزىڭىز تەڭشىيەلەيسىز.

يەرلىك سۈنئىي ئەقىل مودېللىرىنى قاچىلاش ۋە ئىشلىتىش قوراللىرى

1.   Ollama (ئاسانراق)

Ollama، يەرلىك سۈنئىي ئەقىل مودېللىرىنى قاچىلاش ۋە ئىشلىتىش ئۈچۈن ئەڭ ئاسان ۋە كەڭ قوللىنىلىدىغان قوراللارنىڭ بىرى. بۇ پروگرامما macOS، Windows ۋە Linux سىستېمىلىرىدا ئىشلەيدۇ. ئەمما ئاددىي بولغاچقا باشقا پروگراممىلارغا سىلىشتۇرغاندا، خاسلاشتۇرۇش ئىقتىدارى چەكلىك. ياردەم بېتىدە قاچىلاش، ئىشلىتىش قاتارلىقلار ھەققىدە تېخىمۇ تەپسىلىي ئۇچۇرلار بار. بۇ يەردە قىسقىچىلا تونۇشتۇرۇلدى.

قاچىلاش قەدەملىرى:

  1. Ollama رەسمىي تور بېتىدىن كومپيۇتېرىڭىزنىڭ مەشغۇلات سىستېمىسغا ماس كېلىدىغان نۇسخىنى چۈشۈرۈڭ. ئەگەر Docker بىلەن قاچىلاپ ئىشلەتمەكچى بولسىڭىز، ياردەم بېتىدىكى ئۇچۇرلاردىن پايدىلانسىڭىز بولىدۇ.

metin, ekran görüntüsü, yazılım, web sayfası içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

  1. چۈشۈرۈلگەن ھۆججەتنى ئېچىپ، قاچىلاش كۆرسەتمىسى بويىچە پروگراممىنى قاچىلاڭ.
  2. قاچىلاش تاماملانغاندىن كېيىن، Ollama پروگراممىسى ئۆزلۈكىدىن قوزغىلىدۇ.

مودېل قاچىلاش:

Ollama قاچىلانغاندىن كېيىن، تۆۋەندىكى قەدەملەر بويىچە مودېللارنى قاچىلاڭ:

  1. كومپيۇتېرىڭىزنىڭ تېرمىنال (Terminal) پروگراممىسىنى ئېچىڭ.
  2. تۆۋەندىكى بۇيرۇقنى كىرگۈزۈڭ (بۇ يەردە Llama3.2 مودېلىنى قاچىلاشنى مىسال قىلىپ كۆرسىتىلدى. باشقا مودېللارنى تور بېتىدىكى مودېللار قىسمىدىن تەپسىلاتىنى كۆرۈپ چۈشۈرسىڭىز بولىدۇ):

ollama pull llama3.2

  1. سىستېما مودېلنى چۈشۈرۈشنى باشلايدۇ، كومپيۇتېرىڭىزنىڭ تور سۈرئىتىگە قاراپ بۇ جەريان بىر قانچە مىنۇتتىن بىر قانچە سائەتكىچە ۋاقىت ئالىدۇ.

مودېلنى ئىشلىتىش:

  1. چۈشۈرۈلگەن مودېلنى قوزغىتىش (ياكى ئېچىش، يۈكلەش) ئۈچۈن تېرمىنالدا تۆۋەندىكى بۇيرۇقنى كىرگۈزۈڭ:

ollama run llama3.2

  1. بۇ بۇيرۇق مودېلنى قوزغىتىدۇ ۋە سىز بۇ بۇيرۇق ئىكرانىدا بىۋاسىتە پاراڭلاشسىڭىز بولىدۇ.

metin, ekran görüntüsü, yazılım, multimedya yazılımı içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

  1. يۇقىرى دەرىجىلىك پارامېتىرلارنى تەڭشەش ئۈچۈن، يۇقىرىدىكى رەسىمدىكىدەك ھېچقانداق پارامېتىر ئىشلەتمەي ئىجرا قىلساق بىزگە قايسى پارامېتىرلارنى ئىشلىتەلەيدىغانلىقىمىزنى ۋە ئۇلارنىڭ قىسقىچە چۈشەندۈرۈشىنى كۆرسىتىدۇ، بۇلاردىن پايدىلىنىپ ياكى تور بېتىدىكى ياردەم ھۆججەتلىرىدىن تېخىمۇ تەپسىلىي ئۇچۇرلارغا ئېرىشەلەيسىز. مەسىلەن:

ollama run llama3.2 --temperature 0.7 --context 2048

گرافىكىلىق كۆرۈنمە يۈزى:

Ollama ئۆزى گرافىكىلىق كۆرۈنمە يۈز تەمىنلىمەيدۇ، تېرمىنال (Terminal) پروگراممىسىدا بۇيرۇق شەكلىدە ئىشلەيدۇ. لېكىن Ollama Web UI دېگەندەك نۇرغۇنلىغان باشقا ئۈچىنچى تەرەپ پروگراممىلاردىن پايدىلىنىپ گرافىكىلىق كۆرۈنمە يۈز بىلەن ئىشلەتسىڭىز بولىدۇ. ياكى Visual Studio Code دېگەندەك كود ۋە يېزىق تەھرىرلىگۈچلەردە Local AI Pilot ياكى Continue  دېگەندەك قىستۇرمىلار بىلەنمۇ Ollama نى ئىشلىتەلەيسىز. بۇنىڭغا ئوخشاش باشقا پروگرامملارنى ئىشلەتكەندە Ollama نىڭ ئىشلەۋاتقان بولۇشىغا دىققەت قىلىڭ.

metin, ekran görüntüsü, yazılım, web sitesi içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

2.   LM Studio (ئىشلەتكۈچى دوستى كۆرۈنمە يۈزى)

LM Studio، يەرلىك سۈنئىي ئەقىل مودېللىرىنى باشقۇرۇش ۋە ئىشلىتىش ئۈچۈن ئەڭ ياخشى گرافىكىلىق پروگراممىلارنىڭ بىرى. بۇ پروگرامما macOS، Windows  ۋە Linux سىستېمىلىرىدا ئىشلەيدۇ. لېكىن چوڭراق مودېللارنى ئىشلەتكەندە كومپىيۇتېرىڭىزنى سەل قىيناپ قويىدۇ.

قاچىلاش قەدەملىرى:

  1. LM Studio رەسمىي تور بېتىدىن مەشغۇلات سىستېمىڭىزغا ماس كېلىدىغان نۇسخىنى چۈشۈرۈڭ.
  2. چۈشۈرۈلگەن ھۆججەتنى ئېچىپ، قاچىلاش كۆرسەتمىسى بويىچە پروگراممىنى قاچىلاڭ.
  3. قاچىلاش تاماملانغاندىن كېيىن، LM Studio پروگراممىسىنى ئېچىڭ.

مودېل قاچىلاش:

  1. LM Studio پروگراممىسىنى ئاچقاندىن كېيىن، "Add Model" (مودېل قوشۇش) كۇنۇپكىسىنى بېسىڭ.
  2. پروگرامما مودېل تىزىملىكىنى كۆرسىتىدۇ، بۇ تىزىملىكتىن ئۆزىڭىز قاچىلىماقچى بولغان مودېلنى تاللاڭ.
  3. "Download" (چۈشۈرۈش) كۇنۇپكىسىنى بېسىڭ، ۋە مودېل چۈشۈرۈلۈشنى باشلايدۇ.

metin, ekran görüntüsü, yazılım, bilgisayar simgesi içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

مودېلنى ئىشلىتىش:

  1. مودېلنى چۈشۈرۈپ بولغاندا، مودېلنى يۈكلەمسىز دەپ سورايدۇ. «مودېلنى يۈكلەش» نى تاللىسىڭىز سۆھبەت بېتىگە ئالمىشىدۇ ۋە سىزگە پارامېتېرلارنى تەڭشەيدىغان كۆزنەكنى كۆرسىتىدۇ بىۋاستە مودېلنى يۈكلەش كۇنۇپكىسىنى بېسىۋەتسىڭىز بولىدۇ.

metin, ekran görüntüsü, yazılım, bilgisayar simgesi içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

  1. پروگرامما مودېلنى قوزغىتىدۇ ۋە "Chat" (سۆھبەت) كۆرۈنمىسىگە ئۆتىدۇ.
  2. سۆھبەت كۆرۈنمىسىدە پاراڭلىشىشقا باشلىسىڭىز بولىدۇ
  3. پارامېتىرلارنى قايتا تەڭشەش ئۈچۈن، ئۈستىدىكى "Settings"  (تەڭشەكلەر) بەلگىسىگە بېسىپ، Context Length دېگەندەك ھەر خىل پارامېتىرلارنى تەڭشەڭ.

3.   LocalAI (Docker بىلەن ئىشلىتىشكە تېخىمۇ ماس كېلىدۇ)

LocalAI، يەرلىك سۈنئىي ئەقىل مودېللىرىنى ئىشلىتىش ئۈچۈن ئوچۇق كودلۇق API قاتلىمى بولۇپ، ئۇنىڭ ئالاھىدىلىكى شۇكى، OpenAI API بىلەن ئوخشاش كۆرۈنمە يۈز بىلەن تەمىنلەيدۇ، شۇڭا سىز OpenAI API نى ئىشلىتىدىغان ھەر قانداق پروگراممىنى LocalAI بىلەن ئىشلىتەلەيسىز. پەقەتلا CPU ياكى GPU بىلەن ئىشلەتكىلى بولىدۇ. لېكىن قاچىلاش ۋە ئىشلىتىلىشى باشقىلىرىغا قارىغاندا مۇرەككەپ.

قاچىلاش قەدەملىرى:

  1. LocalAI GitHub بېتىدىن قاچىلاش كۆرسەتمىسىنى كۆرۈڭ.
  2. Docker ياكى قول بىلەن قاچىلاش ئۇسۇلىنى تاللاڭ (ئاۋۋال Docker نى كومپىيۇتېرىڭىزغا قاچىلىغان بولۇشىڭىز كېرەك. Windows تا Docker ئىشلەتمەي قاچىلاش توغرىسىدا تۈزۈك ماتېرىيال تاپالمىدىم).
  3. ئەگەر Docker ئىشلەتكىڭىز بولمىسا، Linux ۋە macOS تە bash ياكى Homebrew بىلەنمۇ قاچىلىيالايسىز.

Docker بىلەن قاچىلاش (تەۋسىيە قىلىنىدۇ):

docker run -p 8080:8080 localai/localai:latest

مودېل قاچىلاش:

  1. LocalAI قاچىلانغاندىن كېيىن، تۆۋەندىكى بۇيرۇقنى ئىشلىتىپ مودېل قاچىلاڭ:

curl -X POST "http://localhost:8080/api/models" -H "Content-Type: application/json" -d '{"url": "https://huggingface.co/TheBloke/Llama-3.2-3B-GGUF/resolve/main/llama-3.2-3b.Q4_K_M.gguf"}'

  1. بۇ بۇيرۇق Llama-3.2-3B مودېلىنى چۈشۈرىدۇ ۋە LocalAI غا قاچىلايدۇ.

مودېلنى ئىشلىتىش:

  1. LocalAI نى مودېل بىلەن تەمىنلىگەندىن كېيىن، تۆۋەندىكى بۇيرۇقنى ئىشلىتىپ مودېل بىلەن پاراڭلىشالايسىز:

curl -X POST "http://localhost:8080/v1/chat/completions" -H "Content-Type: application/json" -d '{

  "model": "llama-3.2-3b.Q4_K_M.gguf",

  "messages": [{"role": "user", "content": "How are you doing?"}]

}'

  1. بۇ بۇيرۇق OpenAI API بىلەن ئوخشاش فورماتتا بولغاچقا، سىز تۆۋەندىكى Python كودىنى ئىشلىتىپمۇ LocalAI نى چاقىرالايسىز:
import openai
 
openai.api_base = "http://localhost:8080/v1"
openai.api_key = "anything"
 
response = openai.ChatCompletion.create(
    model="llama-3.2-3b.Q4_K_M.gguf",
    messages=[
        {"role": "user", "content": " How are you doing?"}
    ]
)
print(response.choices[0].message.content)
 

يۇقىرىدا گەرچە LocalAI بىزدىن API key تەلەپ قىلمىسىمۇ، بىراق بىر قىممەت كىرگۈزۈشىمىز كېرەك.

 

4.   4.GPT4ALL (CPU غا مەركەزلەشكەن)

ئوچۇق مەنبەلىك، CPU ۋە GPU بىلەن ئىشلەيدۇ، ئايرىم GPU بولمىغان كومپيۇتېرلاردىمۇ ئىشلەتكىلى بولىدۇ.  كۆرۈنمە يۈزى LM Studio ۋە ChatGPT نىڭكىگە ئوخشىشىپ قالىدۇ. ئەمما Ollama ياكى LM Studio غا قارىغاندا تېخنىكىلىق تەلىپى سەل يۇقىرى.

قاچىلاش قەدەملىرى:

  1. ئەگەر كومپىيۇتېرىڭىزدا Python قاچىلانغان بولسا، pip install gpt4all بۇيرۇقى بىلەن قاچىلىسىڭىز بولىدۇ.
  2. ياكى قاچىلاش پىروگراممىسىنى https://gpt4all.io دىن چۈشۈرۈپ قاچىلىسىڭىزمۇ بولىدۇ.

metin, ekran görüntüsü, yazılım, web sayfası içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

مودېل قاچىلاش:

  1. GPT4ALL پروگراممىسىنى ئاچقاندىن كېيىن، "Add Model" (مودېل قوشۇش) كۇنۇپكىسىنى بېسىڭ.
  2. چىققان كۆزنەكتىن GPT4ALL نىڭ تەمىنلىگەن ئوچۇق مەنبەلىك مودېللارنى ياكى توردا ئىشلەيدىغان مودېللارنى ۋە ياكى Hugging Face تەمىنلىگەن مودېللارنى قاچىلاپ ئىشلەتسىڭىز بولىدۇ.

metin, ekran görüntüsü, yazılım, web sayfası içeren bir resim

Yapay zeka tarafından oluşturulan içerik yanlış olabilir.

مودېلنى ئىشلىتىش:

  1. سۆھبەت بېتىگە كېلىپ چۈشۈرۈلگەن مودېلنى تاللاڭ.
  2. پروگرامما مودېلنى تاللاپ قوزغىتىدۇ ۋە "Chat" (سۆھبەت) كۆرۈنمىسىگە ئۆتىدۇ.
  3. سۆھبەت ئارا يۈزىدە سۆھبەتلەشسىڭىز بولىدۇ.

مەشھۇر يەرلىك سۈنئىي ئەقىل مودېللىرى

1.   Llama

Meta شىركىتى چىقارغان Llama ئوچۇق كودلۇق يەرلىك سۈنئىي ئەقىل مودېللىرى ئىچىدە ئەڭ مەشھۇرلىرىدىن بىرى. ئەڭ يېڭى نۇسخىسى 70 مىليارد پارامېتىرلىق Llama 3.3 نۇسخىسى. 70 مىليارد پارامېتىرلىق مودېل ھۆججىتىنىڭ چوڭلۇقى 43 گىگا بايىت بولغاچقا مېنىڭ كومپيۇتېرىمغا قاچىلىيالمىدىم، شۇڭا 3.2 نۇسخىسىنى قاچىلاپ ئىشلىتىپ باقتىم.

ئالاھىدىلىكلىرى:

  • ئوچۇق كودلۇق ۋە ھەقسىز
  • بىر مىليارد ۋە ئۈچ مىليارد پارامېتىرلىق نۇسخىلىرى بار، نىسبەتەن كىچىك ۋە كومپيۇتېرغا بولغان تەلىپى تۆۋەنرەك
  • ئىنگلىزچە ۋە باشقا تىللاردا ياخشى ئىشلەيدۇ

قاچىلاش ئورنى:

2.   Mistral

Mistral AI شىركىتى چىقارغان بۇ مودېل، كىچىك ھەجىملىك بولسىمۇ، كۈچلۈك ئىقتىدارغا ئىگە.

ئالاھىدىلىكلىرى:

  • 7B پارامېتىرلىق v0.3 نۇسخىسى Llama 2 13B نۇسخىسىدىن ياخشى ئىشلەيدۇ
  • تېز ۋە كۈچلۈك
  • ئىنگلىزچە ۋە باشقا تىللاردا ياخشى ئىشلەيدۇ

قاچىلاش ئورنى:

3.   Phi

Microsoft شىركىتى چىقارغان Phi، كىچىك ھەجىملىك بولسىمۇ، ئىقتىدارى كۈچلۈك مودېل.

ئالاھىدىلىكلىرى:

  • ئەڭ يېڭى 14B پارامېتىرلىق Phi-4، نىسبەتەن كىچىك ھەجىملىك
  • ئادەتتىكى كومپيۇتېرلاردا ئاسان يۈرگۈزەلەيدۇ
  • ئىلمىي (ئاكادېمىك) تەتقىقات تېمىلىرىدا ئەۋزەللىككە ئىگە

قاچىلاش ئورنى:

4.   Gemma

Google شىركىتى چىقارغان، Gemma 3 ئەڭ يېڭى ۋە ئەڭ كۈچلۈك، ئوچۇق مەنبەلىك سۈنئىي ئەقىل مودېلى.

  • ئوچۇق كودلۇق ۋە ھەقسىز
  • بىر مىليارد، تۆت مىليارد، ئون ئىككى مىلىيارد ۋە 27 مىلىيارد پارامېتىرلىق نۇسخىلىرى بار
  • نىسبەتەن كىچىك ۋە كومپيۇتېرغا بولغان تەلىپى نىسبەتەن تۆۋەنرەك
  • ئىنگلىزچە ۋە باشقا تىللاردا ياخشى ئىشلەيدۇ

قاچىلاش ئورنى:

5.   Qwen ۋە Deepseek

ئەلى بابا شىركىتى چىقارغان Qwen ۋە Deepseek شىركىتى چىقارغان Deepseek مودېللىرى بۇ شىركەتلەرنىڭ ئەڭ يېڭى ۋە ئەڭ كۈچلۈك مودېللىرىغا ۋەكىللىك قىلىدۇ. بۇ مودېللارنى يۇقارقى خالىغان قورال ئارقىلىق چۈشۈرپ ئىشلىتەلەيسىز.

يەرلىك سۈنئىي ئەقىل مودېللىرىنىڭ ئارتۇقچىلىقلىرى ۋە چەكلىمىلىرى

ئارتۇقچىلىقلىرى:

  1. شەخسىي مەلۇمات بىخەتەرلىكى: مەلۇماتلىرىڭىز سىزنىڭ كومپيۇتېرىڭىزدا قالىدۇ.
  2. تور بىلەن مۇناسىۋەتسىز ئىشلىتىش: تور بولمىغان شارائىتتىمۇ ئىشلىتەلەيسىز.
  3. ھەق تۆلىمەسلىك: بىر قېتىم قاچىلىغاندىن كېيىن، چەكسىز ۋە ھەقسىز ئىشلىتەلەيسىز.
  4. تەڭشەش ئەركىنلىكى: مودېلنىڭ پارامېتىرلىرىنى ۋە ئىشلىتىش ئۇسۇلىنى ئۆزىڭىز تەڭشىيەلەيسىز.
  5. تېزلىك: يەرلىك مودېل تور كېچىكىشى بولمايدۇ، شۇڭا بەزى ئەھۋاللاردا تېزرەك بولىدۇ.
  6. تەربىيەلەش: ئۆزىڭىزنىڭ ھۆججەتلىرى بىلەن تەربىيەلەش ئارقىلىق خاسلاشتۇرۇلغان نەتىجىلەرگە ئېرىشەلەيسىز.

چەكلىمىلىرى:

  1. تەلەپ قىلىنىدىغان ئۈسكۈنە: يەرلىك مودېللار كۈچلۈك كومپيۇتېر ئۈسكۈنىلىرىنى تەلەپ قىلىدۇ.
  2. چەكلىك ئىقتىدار: توردىكى چوڭ مودېللار بىلەن سېلىشتۇرغاندا، يەرلىك مودېللار ئىقتىدارى چەكلىك بولۇشى مۇمكىن.
  3. قاچىلاش قىيىنچىلىقى: بەزى مودېللارنى قاچىلاش ۋە تەڭشەش تېخنىكىلىق بىلىمنى تەلەپ قىلىدۇ.
  4. چەكلىك تىل قوللىشى: ئۇيغۇرچە قاتارلىق تىللاردا بەزى مودېللار ياخشى ئىشلىمەسلىكى مۇمكىن.
  5. مۇلازىمەت يوق: تىجارىي مودېللاردەك كەسپىي مۇلازىمەت يوق.

يەرلىك سۈنئىي ئەقىل مودېللىرىنىڭ ئۈنۈمىنى ئاشۇرۇش ئۇسۇللىرى

1.     پارامېتىرلارنى تەڭشەش

مودېل پارامېتىرلىرىنى توغرا تەڭشەش ئارقىلىق، مودېلنىڭ ئىشلەش ئۈنۈمىنى ئاشۇرالايسىز (تېخىمۇ تەپسىلىي پارامېتىر ئۇچۇرلىرىنى بۇ يەردىن كۆرەلەيسىز):

  • Temperature بۇ پارامېتىر مودېلنىڭ ئىجادىيەتچانلىقىنى كونترول قىلىدۇ. 0.0 قىممىتى ئەڭ مۇقىم، 1.0 قىممىتى ئەڭ ئىجادىي نەتىجە بېرىدۇ. سۈكۈتتىكى قىممەت 0.8.
  • Top P بۇ پارامېتىر مودېلنىڭ سۆز تاللاش دائىرىسىنى كونترول قىلىدۇ. 0.1 قىممىتى ئەڭ مۇقىم، 1.0 قىممىتى ئەڭ كەڭ دائىرىلىك نەتىجە بېرىدۇ. سۈكۈتتىكى قىممەت 0.9.
  • Context Length بۇ پارامېتىر مودېلنىڭ ئېسىدە ساقلايدىغان تېكىست ئۇزۇنلۇقىنى بەلگىلەيدۇ. بۇ قىممەت قانچە چوڭ بولسا، مودېل شۇنچە كۆپ ئالدىنقى مەزمۇننى ئېسىدە ساقلايدۇ. سۈكۈتتىكى قىممەت 2048.

2.     تەپسىلىي تەسۋىرلەيدىغان سۆزلەرنى ئىشلىتىش

تەپسىلىي تەسۋىرلەنگەن سۆزلەر (Prompt) مودېلنىڭ ئىشلەش ئۈنۈمىنى ئاشۇرۇشتا مۇھىم رول ئوينايدۇ:

  • ئېنىق كۆرسەتمە بېرىش: «سەن بىر پروگراممىلاش ئۇستىسى، ماڭا Python تىلىدا قانداق كود يېزىشنى ئۆگەت» دېگەندەك ئېنىق كۆرسەتمە بېرىڭ.
  • قەدەم-باسقۇچ سوراش: «قەدەم-باسقۇچلار بىلەن چۈشەندۈرۈپ بەر» دېگەندەك سۆزلەرنى قوشۇڭ.
  • فورمات بەلگىلەش: «جاۋابىڭنى Markdown فورماتىدا بەر» دېگەندەك فورمات بەلگىلەش سۆزلىرىنى قوشۇڭ.

3.     مودېلنى كىچىكلەشتۈرۈش (Quantization)

مودېلنى كىچىكلەشتۈرۈش ئارقىلىق، مودېلنىڭ ھەجمىنى كىچىكلىتىپ، ئىشلەش تېزلىكىنى ئاشۇرالايسىز:

  • GGUF فورماتى: بۇ فورمات مودېلنى كىچىكلەشتۈرۈپ، ئىشلەش تېزلىكىنى ئاشۇرىدۇ.
  • Q4_K_M، Q5_K_M: بۇ كىچىكلەشتۈرۈش دەرىجىلىرى مودېلنىڭ ھەجمىنى كىچىكلىتىپ، تېزلىكىنى ئاشۇرىدۇ، بىراق بەزى ۋاقىتلاردا نەتىجە سۈپىتىنى بىر ئاز تۆۋەنلىتىدۇ.

4.     كومپيۇتېر ئۈسكۈنىلىرىنى ياخشىلاش

كومپيۇتېر ئۈسكۈنىلىرىنى ياخشىلاش ئارقىلىق، مودېلنىڭ ئىشلەش ئۈنۈمىنى ئاشۇرالايسىز:

  • GPU ئىشلىتىش: مودېللارنىڭ تېز ئىجرا بولۇشى ئۈچۈن CUDA قوللىشى بار NVIDIA GPU ئىشلىتىش.
  • RAM تاللاش: AI مودېللرىنى تېخىمۇ تىز ئىجرا قىلىش ئۈچۈن كەم دېگەندە 16 GB RAM بولۇشى لازىم. 32 GB ياكى 64GB بولۇشى تەۋسىيە قىلىنىدۇ.
  • تېز SSD دىسكا ئىشلىتىش: مودېل ھۆججەتلىرىنىڭ سىغىمى چوڭ بولغاچقا SSD دىسكا مودېلنىڭ ئېچىلىشىنى تىزلىتىشتە ۋە ئىچكى ساقلىغۇچ يېتىشمىگەندە سىستېمىنىڭ راۋانلىقىغا ئالاھىدە تەسىرى بار.
  • تەپسىلىي قوللانمىلارنى ئوقۇش: مودېلنى قاچلاشتىن بۇرۇن ئۇنىڭ تەپسىلىي قوللانمىلارنى ئوقۇپ بېقىڭ.
  • يەڭگىل (Light) مودېللارنى تاللاش: ئەگەر كومپيۇتېرىڭىزنىڭ ئىقتىدارى چەكلىك بولسا، Gemma3 1B ياكى Llama 3.2 1B دېگەندەك يەڭگىل يۈرۈشلۈك مودېللارنى تاللاڭ.

خۇلاسە

قىسقىسى، يەرلىك سۈنئىي ئەقىل مودېللىرى ئۆزىگە خاس ئەۋزەللىكلىرى بىلەن نۇرغۇن سۈنئىي ئەقىل ھەۋەسكارلىرىنىڭ دىققىتىنى تارتماقتا. مودېللارنىڭ كۆپلىكى، ئۇنى ئىشلەتكىلى بولىدىغان پروگرامما ياكى مۇھىتنىڭ ھەر خىللىقى ۋە ھەر بىرسىنىڭ ئاساسەن تەپسىلىي چۈشەندۈرۈلگەن ياردەم ھۆججەتلىرىنىڭ مەۋجۇتلىقىنى كۆزدە تۇتۇپ، بۇ ماقالىدە قىزىققۇچىلارنىڭ تېخىمۇ چوڭقۇر ئىزدىنىپ بېقىشىغا تۈرتكە بولالىسا دېگەن ئۈمىد بىلەن پەقەتلا يۈزەكى ئۇچۇر بېرىش بىلەنلا چەكلەندى. بەلكى ئەڭ كۆپ ئىشلىتىلىدىغان بىرىنى تەپسىلىي تونۇشتۇرۇلغان باشقا بىر ماقالىمۇ يېزىلىشى مۇمكىن. ئۇنىڭىدن باشقا، ۋەكالەتچى (Agent) ئىشلىتىش ئارقىلىق ئىشلارنى ئاپتوماتلاشتۇرۇشمۇ خېلى دىققەت تارتىۋاتقان نۇقتىلاردىن بىرى. ھەتتا، بىر نەچچە يەرلىك سۈنئىي ئەقىل مودېلىنى ئوخشىمىغان تەرتىپلەردە ئىشلىتىپ، پۈتۈنلەي ئاپتوماتلاشقان ياردەمچى ھاسىل قىلىش توغرىسىدىمۇ خېلى كۆپ سىنلارنى ئۇچراتتىم. مەسىلەن، ئاۋاز تونۇش قىسمىنى بىر ۋەكالەتچى تاماملىغاندىن كېيىن، ھاسىل بولغان تېكىستنى يەرلىك سۈنئىي ئەقىلگە يەتكۈزۈپ، ئۇنىڭ ئۇلارنى تەھلىل قىلىش ئارقىلىق تېكىست، ئۈن، سىن ھاسىل قىلىش ياكى باشقا بىر مەشغۇلاتنى ئىجرا قىلىش دېگەندەك. قىزىققۇچىلار بۇنداق مەزمۇنلارنىمۇ توردىن ئىزدەپ كۆرسە پايدىلىنىشقا ئەرزىيدۇ.


مەزمۇنلارنى ياقتۇرغان بولسىڭىز باشقىلار بىلەن ئورتاقلىشىڭ