昇腾 AI 行业案例（四）：基于 Bert 模型实现文本分类

# DO NOT CHANGE THIS CELL# activate this cell by selecting it with the mouse or arrow keys then use the keyboard shortcut [Shift+Enter] to executeprint('This is just a simple print statement')

This is just a simple print statement

import osimport codecstoken_dict = {}if os.path.exists("data/vocab.txt") != True:    print("The vocab.txt does not exist, please input the right path!")    exit()with codecs.open("data/vocab.txt", 'r', 'utf-8') as reader:    for line in reader:        token = line.strip()        token_dict[token] = len(token_dict)

class Tokenizer(object):    """    这个类的主要作用是将文本分割为整数索引，便于后续自然语言处理任务使用。    """    def __init__(self,                 token_dict,                 token_cls='[CLS]',                 token_sep='[SEP]',                 token_unk='[UNK]',                 pad_index=0,                 cased=False):        """        初始化Tokenizer类。
        :param token_dict: 一个字典，用于将标记（tokens）映射到对应的索引（indices），是文本到索引转换的关键映射表。        :param token_cls: 代表分类任务起始的标记，通常用于模型输入时标识开头。        :param token_sep: 代表分隔不同文本部分的标记，比如在处理句子对任务中用于分隔两个句子。        :param token_unk: 代表未知单词的标记，当遇到不在词汇表（token_dict）中的单词时使用。        :param pad_index: 用于填充的索引值，例如在将不同长度的文本序列处理为等长时使用。        :param cased: 布尔值，用于指示是否保留文本的原始大小写情况，False表示将文本统一处理为小写等情况。        """        self._token_dict = token_dict        # 创建一个反向字典，方便从索引查找对应的标记，键值对互换        self._token_dict_inv = {v: k for k, v in token_dict.items()}        self._token_cls = token_cls        self._token_sep = token_sep        self._token_unk = token_unk        self._pad_index = pad_index        self._cased = cased
    def _pack(self, first_tokens, second_tokens=None):        """        将多个句子合并成1个。
        :param first_tokens: 第一个文本对应的标记列表。        :param second_tokens: 可选参数，第二个文本对应的标记列表，如果存在第二个文本需要一起打包时传入。        :return: 返回打包后的标记列表，以及第一个文本部分的长度和第二个文本部分（如果有）的长度。        """        # 先添加分类起始标记，再添加第一个文本的标记，最后添加分隔标记        first_packed_tokens = [self._token_cls] + first_tokens + [self._token_sep]        if second_tokens is not None:            second_packed_tokens = second_tokens + [self._token_sep]            # 返回合并后的打包标记列表，以及两部分文本标记列表的长度            return first_packed_tokens + second_packed_tokens, len(first_packed_tokens), len(second_packed_tokens)        else:            return first_packed_tokens, len(first_packed_tokens), 0
    def _convert_tokens_to_ids(self, tokens):        """        将词组列表转换为对应的索引列表，使用词汇表（token_dict）进行映射，如果标记不在词汇表中则使用未知标记的索引。
        :param tokens: 要转换的标记列表。        :return: 对应的索引列表。        """        unk_id = self._token_dict.get(self._token_unk)        return [self._token_dict.get(token, unk_id) for token in tokens]
    def _tokenize(self, content):        """        将一个文本进行分词。
        :param tokens: 要转换的标记列表。        :return: 对应的索引列表。        """        R = []        for c in content:            if c in self._token_dict:                R.append(c)            else:                # The remaining characters are [UNK]                R.append('[UNK]')        return R
    def encode(self, first, second=None, max_len=None):        """        将输入的文本（可以是单个文本或两个文本）进行编码，转换为索引序列以及对应的段标识（segment_ids）。
        :param first: 第一个文本内容。        :param second: 可选参数，第二个文本内容，如果有则一起进行编码处理。        :param max_len: 最大允许的长度，如果文本超过该长度会进行截断处理。        :return: 包含文本索引序列（token_ids）和段标识序列（segment_ids）的元组。        """        # 把句子进行分词        first_tokens = self._tokenize(first)        second_tokens = self._tokenize(second) if second is not None else None        tokens, first_len, second_len = self._pack(first_tokens, second_tokens)
        # 把词列表转成索引        token_ids = self._convert_tokens_to_ids(tokens)        segment_ids = [0] * first_len + [1] * second_len
        if max_len is not None:            pad_len = max_len - first_len - second_len            token_ids += [self._pad_index] * pad_len            segment_ids += [0] * pad_len
        # 返回分词结果        return token_ids, segment_ids

import numpy as npdef preprocess(input_text):    """    tokenizer text to ID. Fill with 0 if the text  is not long than maxlen    """    tokenizer = Tokenizer(token_dict)
    # tokenize    maxlen = 298    input_text = input_text[:maxlen]    x1, x2 = tokenizer.encode(first=input_text)
    # if the length of the text is less than tensor_length, padding 0    tensor_length = 300    x1 = x1 + [0] * (tensor_length - len(x1)) if len(x1) < tensor_length else x1    x2 = x2 + [0] * (tensor_length - len(x2)) if len(x2) < tensor_length else x2
    x1 = np.ascontiguousarray(x1, dtype='float32')    x2 = np.ascontiguousarray(x2, dtype='float32')
    x1 = np.expand_dims(x1, 0)    x2 = np.expand_dims(x2, 0)    return x1, x2

sample_text = "深圳金威队今天下午将在主场对阵青岛中能队。这场保级对手之间的对决对双方而言都非常关键。目前，中超的保级形势非常复杂，第六名只比第十五名多五分，从现在开始，每场比赛都非常重要。深足目前排名中超倒数第五，少赛一场的青岛队则倒数第四。由于青岛队只比排倒数第一的重庆队多出两分，他们非常希望在深圳获得救命三分。深足主力后卫忻峰和青岛队主力后卫刘俊威本轮都将停赛。两支进攻乏力的队伍，本轮同时面对后防的空虚。对阵实力一般的青岛队，深足主教练王宝山希望李毅与丹尼尔能找到状态，力争在比赛中撕破对手的防线。青岛队主教练殷铁生则认为，他们近九个赛季在深圳的战绩是八战八负，这个耻辱的纪录必须在他手中终结。殷铁生希望青岛队全力以赴，争取改写在深圳体育场不胜的历史。青岛队的球员则没那么乐观，他们对深圳的闷热天气有所忌惮，只希望在这里以不败的结果离开。"X1, X2 = preprocess(sample_text)print(X1.shape, X2.shape)

(1, 300) (1, 300)

# atc --model=bert_text_classification.pb --framework=3 --input_format="ND" --output=bert_text_classification --input_shape="input_1:1,300;input_2:1,300" --out_nodes=dense_1/Softmax:0 --soc_version=芯片型号 --op_select_implmode="high_precision"

import acl
ACL_MEM_MALLOC_HUGE_FIRST = 0ACL_MEMCPY_HOST_TO_DEVICE = 1ACL_MEMCPY_DEVICE_TO_HOST = 2
class OmModel:    def __init__(self, model_path):     # 初始化函数     self.device_id = 5         # step1: 初始化     ret = acl.init()     # 指定运算的Device     ret = acl.rt.set_device(self.device_id)         # step2: 加载模型，本示例为pfld模型     # 加载离线模型文件，返回标识模型的ID     self.model_id, ret = acl.mdl.load_from_file(model_path)     # 创建空白模型描述信息，获取模型描述信息的指针地址     self.model_desc = acl.mdl.create_desc()     # 通过模型的ID，将模型的描述信息填充到model_desc     ret = acl.mdl.get_desc(self.model_desc, self.model_id)         # step3：创建输入输出数据集     # 创建输入数据集     self.input_dataset, self.input_data = self.prepare_dataset('input')     # 创建输出数据集     self.output_dataset, self.output_data = self.prepare_dataset('output')
    def prepare_dataset(self, io_type):     # 准备数据集     if io_type == "input":         # 获得模型输入的个数         io_num = acl.mdl.get_num_inputs(self.model_desc)         acl_mdl_get_size_by_index = acl.mdl.get_input_size_by_index     else:         # 获得模型输出的个数         io_num = acl.mdl.get_num_outputs(self.model_desc)         acl_mdl_get_size_by_index = acl.mdl.get_output_size_by_index     # 创建aclmdlDataset类型的数据，描述模型推理的输入。     dataset = acl.mdl.create_dataset()     datas = []     for i in range(io_num):         # 获取所需的buffer内存大小         buffer_size = acl_mdl_get_size_by_index(self.model_desc, i)         # 申请buffer内存         buffer, ret = acl.rt.malloc(buffer_size, ACL_MEM_MALLOC_HUGE_FIRST)         # 从内存创建buffer数据         data_buffer = acl.create_data_buffer(buffer, buffer_size)         # 将buffer数据添加到数据集         _, ret = acl.mdl.add_dataset_buffer(dataset, data_buffer)         datas.append({"buffer": buffer, "data": data_buffer, "size": buffer_size})     return dataset, datas
    def forward(self, inputs):     # 执行推理任务     # 遍历所有输入，拷贝到对应的buffer内存中     input_num = len(inputs)     for i in range(input_num):         bytes_data = inputs[i].tobytes()         bytes_ptr = acl.util.bytes_to_ptr(bytes_data)         # 将图片数据从Host传输到Device。         ret = acl.rt.memcpy(self.input_data[i]["buffer"],   # 目标地址 device                             self.input_data[i]["size"],     # 目标地址大小                             bytes_ptr,                      # 源地址 host                             len(bytes_data),                # 源地址大小                             ACL_MEMCPY_HOST_TO_DEVICE)      # 模式:从host到device     # 执行模型推理。     ret = acl.mdl.execute(self.model_id, self.input_dataset, self.output_dataset)     # 处理模型推理的输出数据，输出top5置信度的类别编号。     inference_result = []     for i, item in enumerate(self.output_data):         buffer_host, ret = acl.rt.malloc_host(self.output_data[i]["size"])         # 将推理输出数据从Device传输到Host。         ret = acl.rt.memcpy(buffer_host,                    # 目标地址 host                             self.output_data[i]["size"],    # 目标地址大小                             self.output_data[i]["buffer"],  # 源地址 device                             self.output_data[i]["size"],    # 源地址大小                             ACL_MEMCPY_DEVICE_TO_HOST)      # 模式：从device到host         # 从内存地址获取bytes对象         bytes_out = acl.util.ptr_to_bytes(buffer_host, self.output_data[i]["size"])         # 按照float32格式将数据转为numpy数组         data = np.frombuffer(bytes_out, dtype=np.float32)         inference_result.append(data)     return inference_result  # 取第二个输出，也就是坐标点
    def __del__(self):     # 析构函数 按照初始化资源的相反顺序释放资源。     # 销毁输入输出数据集     for dataset in [self.input_data, self.output_data]:         while dataset:             item = dataset.pop()             ret = acl.destroy_data_buffer(item["data"])    # 销毁buffer数据             ret = acl.rt.free(item["buffer"])              # 释放buffer内存     ret = acl.mdl.destroy_dataset(self.input_dataset)      # 销毁输入数据集     ret = acl.mdl.destroy_dataset(self.output_dataset)     # 销毁输出数据集     # 销毁模型描述     ret = acl.mdl.destroy_desc(self.model_desc)     # 卸载模型     ret = acl.mdl.unload(self.model_id)     # 释放device     ret = acl.rt.reset_device(self.device_id)     # acl去初始化     ret = acl.finalize()

# 该模型支持5个分类标签classification_bales = ["体育", "健康", "军事", "教育", "汽车"]# load modelpoints_detect_om_model_path = "./bert_text_classification.om"points_detect_om_model = OmModel(points_detect_om_model_path)results = points_detect_om_model.forward([X1, X2])[0]
# get data from infer_resultlabel = classification_bales[np.argmax(results)]print(label)

体育

# read the input textif os.path.exists("data/sample.txt") != True:    print("The sample.txt does not exist, please input the right path!")    exit()if os.path.getsize("data/sample.txt") == 0:    print("The sample.txt content is null, please input the right text!")    exit()sample_text = open("data/sample.txt", "r")
for text in sample_text:    # preprocess the data    X1, X2 = preprocess(text)    results = points_detect_om_model.forward([X1, X2])[0]    # get data from infer_result    label = classification_bales[np.argmax(results)]    # print result    print("Original text: %sPrediction label: %s \n" % (text, label))

Original text: 深圳金威队今天下午将在主场对阵青岛中能队。这场保级对手之间的对决对双方而言都非常关键。目前，中超的保级形势非常复杂，第六名只比第十五名多五分，从现在开始，每场比赛都非常重要。深足目前排名中超倒数第五，少赛一场的青岛队则倒数第四。由于青岛队只比排倒数第一的重庆队多出两分，他们非常希望在深圳获得救命三分。深足主力后卫忻峰和青岛队主力后卫刘俊威本轮都将停赛。两支进攻乏力的队伍，本轮同时面对后防的空虚。对阵实力一般的青岛队，深足主教练王宝山希望李毅与丹尼尔能找到状态，力争在比赛中撕破对手的防线。青岛队主教练殷铁生则认为，他们近九个赛季在深圳的战绩是八战八负，这个耻辱的纪录必须在他手中终结。殷铁生希望青岛队全力以赴，争取改写在深圳体育场不胜的历史。青岛队的球员则没那么乐观，他们对深圳的闷热天气有所忌惮，只希望在这里以不败的结果离开。Prediction label: 体育 
Original text: 今天下午，沈阳金德和长春亚泰队将在五里河相遇。在这两支球队中沈阳籍球员居多，因此这场比赛实际也将是一场“沈阳内战”。库夫曼去年执教金德时，曾率队与长春亚泰队进行过一场教学比赛，当时金德队以1：0战胜对手，但是比赛过程是亚泰队占据绝对优势。这场德比教学赛进行得相当火爆，长春亚泰队两名外援均骨折。本来，亚泰队还准备回访沈阳，考虑到比赛火药味十足，最终亚泰取消了回访计划。此番在中超遭遇亚泰队，库夫曼最为头痛锋线人选，普科在上一场与辽足比赛不慎领到红牌今天不能出场。目前库夫曼手里仅剩下陈涛和班古拉两名前锋可用。好在中场大将许博停赛解禁，可以粉墨登场，在周二与预备队比赛里，许博在中场表现抢眼，这也让库夫曼吃了定心丸，这样沈阳金德队就可以组成相对完整的中后场。在看了长春亚泰与武汉光谷队的比赛录像后，库夫曼认为对手实力并不像升班马，他们的水准应该在中超位于中上游，王栋、杜震宇和卡巴雷罗等人是重点防范对象。库夫曼也知道“内战”胜负的意义，没有轻言要战胜对手，只表示金德目标应该定位在保平争胜，争取“东北三大战役”保持金身不破。昨天下午，金德和亚泰两队均到五里河体育场进行了赛前训练，从训练中可以看出，金德队强调的是短传渗透，以地面进攻为主。而亚泰则是依靠球员的良好身体素质，以长传冲吊为主，这种打法很有冲击力，看来亚泰看到了金德后防线球员年轻，身体略显单薄的弱点，准备依靠超强的冲击力来挑战金德。Prediction label: 体育 
Original text: 主持人：现在再谈一下乳腺癌的治疗，在乳腺癌的治疗中放射治疗应该是很大的一部分，现在网友对放射治疗原理，在肿瘤(专题访谈咨询)治疗中的运用，以及所处的地位不是很了解，现在就请王维虎教授给大家介绍一下放射治疗在肿瘤治疗中的一些作用。王维虎：肿瘤医院肿瘤放射治疗科副主任医师王维虎：简单地说，放射治疗就是用X线进行肿瘤治疗的方法，我们大家都比较了解的X线主要用于肿瘤的诊断，实际上是能量比较低的X射线。另外一方面，肿瘤的放射治疗，就是用高能量的X线进行肿瘤的治疗。具体到乳腺癌的放疗，应该是乳腺癌三大治疗手段之一，手术治疗、化疗，另外就是放射治疗，所以应该在乳腺癌的治疗当中扮演着一个很重要的角色。我概括地说一下乳腺癌的放射治疗主要包括这样几个方面：第一，乳腺癌保留乳房术后的放射治疗。第二，乳腺癌的根治或者改良根治术以后放射治疗。第三，晚期乳腺癌。就是指乳腺侵犯了皮肤、侵犯了胸肌，比如出现了内乳淋巴腺转移，这部分的放射治疗。第四，转移性的，比如病人出现了骨转移或者脑转移，这方面的治疗，这些方面都有广泛的应用。这几个方面其中应该说现在目前应用最为广泛的就是乳腺癌保乳术后治疗、改良根治术以后的放射治疗。在这儿我想说的是乳腺癌保乳术后的放疗治疗。随着社会发展，乳腺癌发病有年轻化的趋势，很多人希望不仅要治好这个肿瘤，还希望能很好的治疗。保乳术的治疗要求有几个方面：第一，乳腺的肿瘤要小于4到5公分；第二，这个肿瘤应该是局限性的纤维钙化；第三，既然要保乳就要有一个好的美容效果，要求切除以后乳腺的外型不要有很大的影响；第四，考虑到美容的效果，要在乳晕以外的区域。第五，不能有胶原疾病。另外，我们还有一个很重要的原则，病人必须要自愿接受这个治疗，这是一个适应症，适应症的范围也在扩大。保乳手术在我们国内推广的比较慢，随着这个技术的不断运用，一些适应症在扩大，现在比如说浸润性小叶癌就可以做保乳手术。现在做化疗以后，如果肿瘤大于4到5公分放疗以后缩小的也可以做保乳术。如果这个肿瘤没有侵犯到乳晕的话，我们照样可以做保乳术。另外就是淋巴结转移，如果个数大于4、5个的也可以做这个手术。尽管很多情况可以做保乳术，但实际上也有很多的晋级症，下面的情况是不能考虑做保乳术的。比如在不同的象限，有2个到2个以上的病变，或者弥漫性的纤维钙化，就是多方肿瘤，可能2到3个象限上有肿瘤是不可以做保乳术的。另外，要切元干净。意思就是说切完以后如果还有肉眼可见的肿瘤是不可以做保乳术的。当然，接受完放疗的还可以做。另外，我总结一下目前保乳术的疗效。第一，从疗效的角度来讲保乳术跟既往我们所做的改良或者根治术以后疗效是相同的，这个毫无疑问，已经有很多随机分组等等证实了这一点。另外，有的做好了美容效果是很好的。很多人提到疗效，复发率根据大众的研究，局部和区域的复发率还是小于10％的，就是说这10％的病人即便再做改良根治术，效果也是很好的。Prediction label: 健康 
Original text: 今年江西省普通高考考生志愿填报方法有变，即三本和一专、二专院校志愿填报改为网上填报。提前本科、一本、二本、艺术提前专科院校志愿填报继续采用纸质填报。记者21日获悉，目前各批次志愿填报时间已确定。6月10日至16日填报提前本科、一本、二本、艺术提前专科院校志愿；7月26日至28日填报三本院校、专科一批、专科二批院校志愿。与此同时，江西省高招办组织的高校招生网络电话咨询会也将在6月10日至13日和7月25日至26日期间举行。（记者：黄小路）（来源：信息日报）Prediction label: 教育 
Original text: 因受到国家公布的新消费税税率的影响。近期，进口克莱斯勒•300C和大捷龙的销售价格有所上调。据记者了解，此次调价涉及到的克莱斯勒车型只有以上两个国内正规进口的型号，其它非正规进口到国内的车型暂时没有涉及到。由于在售车型的排量较大，所以受消费税的影响比较明显。以下是价格调整后，代理商处的报价：从上表我们可以清楚的看到，克莱斯勒除了300C5.7排量的车型涨幅较高，达6万元外，其他车型的涨幅相对不是很大，均在2万元。作为克莱斯勒品牌最经典的“字母系列”的最新车型，克莱斯勒•300C在04年6月北京车展一露面，就令许多车迷心驰神往。修长的发动机罩、简短的面板、动感的轮廓以及18英寸车轮，无一不展现了克莱斯勒•300C经典的造型比例。饱满雄壮的车头、张扬的方格状前脸，充满60年代美式大型轿车的复古风味。克莱斯勒•300C的每根线条、每个角度和每个比例都体现了内外的和谐统一。无论是它的专利“龟甲壳”式内饰设计还是其经典的HEMI引擎都让人印象深刻。克莱斯勒•大捷龙不断推陈出新，创新的标杆被一再提高。厢式旅行车上首创的Stow‘nGo座椅及内部空间变幻系统不但可以使第二排和第三排座椅折叠后完全收入地板之内，更为使用者在座椅处于竖直状态时提供了达340升的超大储物空间。从2座到7座的座椅组合可以在不到30秒的时间内通过单手操作，毫不费力地实现。为消费者提供了无与伦比的便利性、多功能性和装载功能。克莱斯勒•300C和大捷龙凭借自身与众不同的优势，进入国内后销售情况一直看好。此次克莱斯勒•300C和大捷龙的调价，会不会对自身的销量造成影响，只有交给市场来解答了。Prediction label: 汽车