DeepSeek-R1 Senagat IoT üçin AI we Edge hasaplamasyny birleşdirýär

Giriş

“DeepSeek-R1” -iň kiçi göwrümli distillendirilen modelleri, “DeepSeek-R1” tarapyndan döredilen, zynjyrly maglumatlar zynjyry bilen ulanylýar....bellikleri, R1-iň pikirleniş mümkinçiliklerini miras alýar. Bu gowy düzülen maglumatlar bazalarynda meseläniň bölünmegi we aralyk aýyrmalar ýaly pikirleniş prosesleri aç-açan bar. Güýçlendirmek okuwy, distillendirilen modeliň özüni alyp barş usullaryny R1 tarapyndan döredilen pikirleniş ädimleri bilen deňleşdirdi. Bu distillasiýa mehanizmi, kiçi modellere hasaplaýyş netijeliligini saklamaga mümkinçilik berýär, şol bir wagtyň özünde serişde çäklendirilen ssenariýalarda möhüm ähmiýete eýe bolan has uly modelleriň ýanynda çylşyrymly pikirlenmek ukyplaryny alýar. Mysal üçin, 14B wersiýasy asyl DeepSeek-R1 modeliniň kod gutarmagynyň 92% -ine ýetýär. Bu makala, aşakdaky dört ugurda jemlenen, aýratyn ýerine ýetiriş ýagdaýlary bilen birlikde, “DeepSeek-R1” distillendirilen modeli we önümçilik gyrasy hasaplamasyndaky esasy goşundylary bilen tanyşdyrýar:

dc3c637c5bead8b62ed51b6d83ac0b4

Enjamlary çaklamak

Tehniki durmuşa geçirmek

Sensor birleşmesi:

Modbus protokoly (nusga alma tizligi 1 kHz) arkaly PLC-den titremäni, temperaturany we häzirki maglumatlary birleşdiriň.

Aýratynlyklary çykarmak:

128 ölçegli wagt seriýaly aýratynlyklaryny çykarmak üçin Jetson Orin NX-de Edge Impulse-i işlediň.

Model nusgasy:

Ultalňyşlyk ähtimallyk bahalaryny döretmek üçin aýratynlyk wektorlaryny girizip, DeepSeek-R1-Distill-14B modelini ýerleşdiriň.

Dinamiki sazlamak:

Ynam> 85% bolanda tehniki hyzmat işlerini sargyt ediň we <60% bolanda ikinji derejeli barlag işine başlaň.

Degişli waka

“Schneider Electric” bu çözgüdi magdan enjamlaryna ýerleşdirdi, ýalan polo positiveitel nyrhlary 63%, tehniki hyzmat çykdajylaryny 41% azaltdy.

1

InHand AI Edge kompýuterlerinde DeepSeek R1 distillendirilen modeli işletmek

Giňeldilen wizual barlag

Çykyş arhitekturasy

Adaty ýerleşdiriş turbasy:

kamera = GigE_Vision_Camera (500fps) # Gigabit senagat kamerasy
ramka = kamera.capture () # Surata almak
öňünden işlenen = OpenCV.denoise (ramka) # Öňünden işlemek
defekt_type = DeepSeek_R1_7B.infer (öňünden işlenen) # Näsaz klassifikasiýa
defekt_type! = 'normal':
PLC.trigger_reject () # Trigger sortlamak mehanizmi

Öndürijilik ölçegleri

Gaýtadan işlemegiň gijikdirilmegi:

82 ms (Jetson AGX Orin)

Takyklyk:

Sanjym galyndylarynyň kemçiligini ýüze çykarmak 98,7% -e ýetýär.

2

“DeepSeek R1” -iň netijeleri: “AI” öndüriji AI zynjyrynda ýeňijiler we ýeňilenler

Amalyň optimizasiýasy

Esasy tehnologiýalar

Tebigy diliň täsiri:

Operatorlar enjamyň anomaliýalaryny ses arkaly suratlandyrýarlar (mysal üçin, "Ekstruder basyşynyň üýtgemegi ± 0.3 MPa").

Multimodal sebäpler:

Model enjamlaryň taryhy maglumatlaryna esaslanýan optimizasiýa tekliplerini döredýär (mysal üçin, nurbat tizligini 2,5% sazlamak).

Sanly ekiz barlamak:

“EdgeX Foundry” platformasynda parametrleriň simulýasiýa tassyklamasy.

Durmuşa geçirmegiň täsiri

BASF himiýa zawody, energiýa sarp edilişiniň 17% peselmegine we önümiň hiliniň 9% ýokarlanmagyna ýetip, bu shemany kabul etdi.

3

Edge AI we işiň geljegi: Saglygy goraýyş, awtoulag we IIoT üçin OpenAI o1 vs. DeepSeek R1

Bilim bazasyny derrew gözlemek

Arhitektura dizaýny

Verli wektor maglumatlar bazasy:

Enjam gollanmalaryny we işleýiş aýratynlyklaryny saklamak üçin ChromaDB ulanyň (768 ölçeg ölçegi).

Gibrid gözleg:

Talap üçin BM25 algoritmini + kosin meňzeşligini birleşdiriň.

Netijeler:

R1-7B modeli gözleg netijelerini jemleýär we takyklaýar.

Adaty waka

“Siemens” inersenerleri inwertor şowsuzlyklaryny tebigy dil talaplary arkaly çözdi we ortaça gaýtadan işlemegiň wagtyny 58% gysgaltdy.

Gurnama kynçylyklary we çözgütleri

Oryat çäklendirmeleri:

14B modeliň ýadyň ulanylyşyny 32 Gb-dan 9 Gb-a çenli azaldyp, KV Keş kesgitlemek tehnologiýasy ulanyldy.

Hakyky ýerine ýetirişiň üpjün edilmegi:

CUDA Graf optimizasiýasy arkaly ms 15 ms-a çenli durnuklaşdyrylan ýeke-täk gijikdirme.

Model Drift:

Hepdelik artýan täzelenmeler (parametrleriň diňe 2% -ini geçirmek).

Ekstremal gurşaw:

IP67 gorag derejesi bilen -40 ° C-den 85 ° C çenli giň temperatura diapazonlary üçin niýetlenendir.

5
微信图片 _20240614024031.jpg1

Netije

Häzirki ýerleşdiriş çykdajylary 599 $ / düwün (Jetson Orin NX) -e çenli azaldy, ulaldylan programmalar 3C önümçiligi, awtoulag gurnama we energiýa himiýasy ýaly pudaklarda emele geldi. MoE arhitekturasynyň we optimizasiýa tehnologiýasynyň yzygiderli optimizasiýasy 70B modeliniň 2025-nji ýylyň ahyryna çenli gyradaky enjamlarda işlemegine mümkinçilik döreder diýlip garaşylýar.

ELV kabel çözgüdini tapyň

Dolandyryş kabelleri

BMS, BUS, Senagat, gurallar kabeli üçin.

Düzülen kabel ulgamy

Tor we maglumatlar, süýüm-optiki kabel, patch şnury, modullar, ýüz keşbi

2024 Sergiler we wakalara syn

16-njy aprel-18-18-nji aprel, Dubaýda Eastakyn Gündogar-Energetika

16-njy aprel-18-18-nji aprel, Moskwada sekurika

9-njy maý, 2024 T NEWZE ÖNÜMLER WE TEHNOLOGIESALAR Şanhaýda başlaýar

22-nji oktýabr-25-25-nji oktýabr, Pekinde HOWPSUZLYK Hytaý

2024-nji ýylyň 20-nji noýabry, BAŞGA DÜN K KSA KSA


Iş wagty: Fewral-07-2025