DeepSeek е в агресивно наемане на служители за проучвания на алгоритми, инженеринг, продукти, операции и инженеринг на данни, докато компанията се подготвя да пусне официалната версия на DeepSeek V4 в средата на юли. Сред авторите, изброени в доклада DeepSeek V4, се появи едно забележително име: Гу Юксиан, докторант в университета Цинхуа и получател на специалната стипендия за завършване на Цинхуа за 2025 г., според доклад на Machine Intelligence.
Gu Yuxian официално се присъедини към DeepSeek, добавяйки един от най-обещаващите млади изследователи на AI на Tsinghua към списъка с таланти на компанията. Преди това той получи докторската стипендия на Apple за 2025 г. и стипендията на Ant Group In-Tech. Гу е дипломиран докторант в катедрата по компютърни науки в университета Цинхуа, където е завършил и бакалавърската си степен. Той провежда своите изследвания под ръководството на професор Huang Minlie в групата Conversational AI.
Изследванията на Гу се фокусират върху подобряването на ефективността през целия жизнен цикъл на големи езикови модели, обхващайки предварително обучение, адаптация надолу по веригата и изводи. Работата му обхваща три основни направления: селекция на данни преди обучението, където той разработва теории и алгоритми за оптимизиране на селекцията на данни за обучение на по-способни и ефективни модели; компресиране на модели чрез дестилация на знания, където той проектира методи за прехвърляне на знания от големи модели към по-малки, по-разгърнати; и проектиране на ефективна моделна архитектура, където той изследва нови архитектури, които намаляват изчислителните разходи, като същевременно подобряват производителността.
Неговият профил в Google Scholar показва близо 5000 цитирания. Два от неговите доклади са надхвърлили 1000 цитирания всеки: Предварително обучени модели: минало, настояще и бъдеще и MiniLLM: Дестилация на знания на големи езикови модели. Той е служил като първи автор на множество доклади, приети в NeurIPS, ICLR, ACL и други водещи AI конференции.
Трябва да се отбележи, че Gu е ключов участник в Jet-Nemotron, серия от модели на език за хибридна архитектура, която постига най-съвременна точност на модела с пълно внимание с превъзходна ефективност. Версията с 2B параметър на Jet-Nemotron превъзхожда Qwen3, Qwen2.5, Gemma3 и Llama3.2 при бенчмаркове MMLU и MMLU-Pro, като същевременно осигурява до 53.6x ускорение на пропускателната способност на поколение на H100 GPU при 256K дължина на контекста, надминавайки по-големите MoE модели с пълно внимание, включително DeepSeek-V3-Small и лунна светлина.
Както самият Гу заяви: Когато хардуерните ресурси са ограничени, алгоритмичната иновация се превръща в ключ към преодоляването на изчислителните затруднения. Неговата изследователска философия е в съответствие с фокуса на DeepSeek върху разработката на AI, насочена към ефективност, което го прави стратегическо допълнение към екипа преди стартирането на V4.
Source link
Like this:
Like Loading…