大语言模型技术原理

NineData

05-30

大语言模型能够发展，主要还是模型具备很好的并行扩展性，随着数据量和计算量的增加，主要挑战在工程和调优上。海外除了GPT、还有LLama、PaLM等，国内目前也有很多相应的研究，因为很多基础技术以前就存在，预期国内半年左右能够到GPT 3.5水平。