分享一个机器学习的例子—中文文本生成

程序员朋友甚至其他行业的朋友应该都知道最近两年机器学习、人工智能方向的热度吧!想尝试一下机器学习的效果吗?不需要很高的配置哦,在这里使用Google提供的免费的算力资源。colab地址点击即可进入下边要说的代码示例咯!

了解机器学习的朋友因该也听说过 transformers 。他让我们今天的尝试变得更简单了!

相信稍微了解机器学习的朋友也都知道GPT2训练参数之大,模型效果也是相当不错,我们今天使用的就是gpt2微调过的模型哦

第一步,安装 transformers

!pip install transformers

第二步加载编码器和模型

from transformers import BertTokenizer, TFGPT2LMHeadModel

tokenizer = BertTokenizer.from_pretrained("mymusise/gpt2-medium-chinese")

model = TFGPT2LMHeadModel.from_pretrained("mymusise/gpt2-medium-chinese")

第三步就可以生成我们想要的数据了,就是这么简单,下边的示例是我生成了三个,可以参考一下!

from transformers import TextGenerationPipeline

text_generator = TextGenerationPipeline(model, tokenizer)
print(text_generator("走向森林", max_length=1023, do_sample=True, repetition_penalty=1.3, top_k=10, eos_token_id=tokenizer.get_vocab().get("】", 0)))
print(text_generator("拿出一本秘籍", max_length=1023, do_sample=True, repetition_penalty=1.3, top_k=10, eos_token_id=tokenizer.get_vocab().get("】", 0)))
print(text_generator("跨越山丘", max_length=1023, do_sample=True, repetition_penalty=1.3, top_k=10, eos_token_id=tokenizer.get_vocab().get("】", 0)))

[{‘generated_text’: “走向森林 , 在 山 谷 的 边 上 有 一 座 小 型 树 木 , 这 种 树 木 通 常 被 称 为 「 野 猪 蹄 草 」 和 野 猪 蹄 草 。 另 外 由 于 地 处 低 洼 的 山 麓 地 带 , 其 生 活 水 平 相 对 较 好 , 所 以 很 适 合 做 饲 料 、 食 用 植 物 和 养 殖 工 具 等 农 作 。 在 日 本 国 内 , 大 部 分 都 是 高 度 集 中 的 区 域 。 除 了 农 产 品 的 种 类 之 外 , 其 它 也 有 不 完 善 的 生 育 环 境 ; 此 外 , 农 作 物 还 会 进 行 各 项 技 术 研 究 , 如 农 耕 栽 培 、 土 葬 及 其 他 的 遗 传 学 方 式 , 比 如 人 类 社 会 保 护 法 律 与 民 众 的 健 康 检 查 等 ; 而 且 每 年 均 举 办 一 次 或 一 个 的 特 别 的 节 假 展 览 。 2004 年 , 大 阪 市 发 售 首 张 专 辑 「 love and the beautifuls of get in music show 」 获 得 金 榜 的 第 5 名 并 登 上 公 信 榜 的 前 100 位 。 2005 年 3 月 1 日 , 《 family with day 》 正 式 在 日 本 放 送 。 2010 年 12 月 8 日 , 该 网 站 的 music 宣 布 已 经 结 束 营 销 的 事 业 ; 但 后 来 又 因 为 《 family with hope 》 的 广 告 宣 传 而 暂 时 停 止 贩 卖 。 2012 年 2 月 25 日 , 在 日 本 东 京 巨 蛋 举 行 开 幕 仪 式 时 , 大 部 份 人 士 和 团 体 表 示 「 将 要 在 东 京 巨 蛋 举 行 的 『 explorer – 』 ( ) 的 演 出 中 再 加 入 」 ; 4 月 7 号 起 , 大 量 观 光 客 群 在 东 京 巨 蛋 的 巨 蛋 举 办 了 「 exploring – track – 」 , 并 且 透 过 各 大 电 视 台 的 「 new york 」 直 播 与 日 本 各 地 媒 体 交 流 。 2013 年 4 月 28 日 , 大 阪 巨 蛋 开 始 了 其 个 人 独 立 巡 回 演 唱 会 , 当 年 的 总 决 赛 也 在 巨 蛋 举 行 , 最 终 夺 取 冠 军 的 歌 曲 则 包 括 了 「 live up ! 」 的 「 exelfy . party 」 、 「 exelfy . party 」 与 「 rapid volver children ‘ s dark just and tour 」 两 首 冠 军 歌 曲 。 2017 年 5 月 6 号 , 东 京 巨 蛋 于 官 方 粉 丝 票 选 的 《 musical people ‘ s music band 》 中 获 得 第 18 名 , 成 绩 优 异 ; 同 时 也 在 日 本 全 美 超 级 棒 球 联 盟 的 预 备 组 排 行 榜 获 得 亚 军 ; 6 月 9 号 开 始 , 在 韩 国 举 行 的 《 light what to you 》 也 获 得 冠 军 , 同 时 成 绩 突 破 百 万 的 纪 录 ; 6 月 16 日 至 14 日 期 间 , 于 日 本 、 澳 洲 和 印 尼 举 行 的 2016 年 夏 季 青 少 棒 世 界 杯 、 2018 年 世 界 篮 球 锦 标 赛 等 四 场 综 艺 演 说 的 总 决 赛 都 获 得 了 亚 军 并 顺 利 参 加 。 同 年 11 月 , 大 阪 巨 蛋 的 代 表 性 竞 争 力 受 到 瞩 目 , 在 10 日 的 总 决 赛 中 , 获 得 了 新 加 坡 女 子 队 史 上 的 三 连 霸 。 2017 赛 季 , 东 京 巨 蛋 的 总 冠 军 赛 于 11 月 15 日 在 横 滨 奥 运 会 中 首 次 亮 相 。 2017 赛 季 开 幕 后 , 由 于 东 京 巨 蛋 的 主 持 能 力 受 到 关 注 , 该 场 比 赛 也 被 评 为 东 北 乐 天 堂 全 面 禁 赛 。 大 阪 巨 蛋 也 在 10 周 后 重 返 大 阪 巨 蛋 主 场 。 2017 年 12 月 30 日 , 大 阪 巨 蛋 举 办 首 届 东 北 巨 蛋 举 办 的 东 北 巨 蛋 主 题 音 乐 节 — — 《 family was studio festival 》 , 大 阪 巨 蛋 的 主 场 馆 长 是 大 岛 荣 男 , 在 主 场 的 东 侧 是 日 本 大 阪 巨 蛋 队 。”}] [{‘generated_text’: ‘拿出一本秘籍 , 后 来 在 2003 年 10 月 1 日 起 开 始 担 任 教 育 、 工 程 师 , 于 1991 年 9 月 至 1994 年 4 月 间 为 教 育 及 工 作 。 此 外 他 是 英 属 西 非 公 民 的 主 教 兼 任 牧 师 、 国 际 关 系 学 者 ( post ) 和 社 会 福 利 局 局 长 、 社 会 事 务 署 长 与 法 兰 克 · 奥 尼 尔 爵 士 领 导 , 也 是 一 位 政 治 及 文 化 方 面 的 非 官 僚 机 构 人 员 , 并 因 为 在 国 有 土 地 上 的 权 益 而 受 到 当 时 的 政 敌 批 评 。 除 了 英 格 拉 底 之 外 其 余 三 十 多 个 成 员 皆 获 得 过 诺 贝 尔 奖 项 。 在 2012 年 6 月 25 日 , 他 被 任 命 为 总 督 , 期 间 接 连 晋 升 大 臣 。 在 2016 年 7 月 28 日 举 办 的 总 督 选 美 中 选 战 结 果 是 在 总 理 内 部 进 行 , 他 宣 布 将 以 总 统 身 份 担 任 副 总 裁 。 在 他 当 选 后 第 二 轮 投 票 失 败 的 情 况 下 , 由 于 他 的 反 对 党 内 斗 争 激 烈 、 不 满 支 持 率 高 落 。 最 终 他 被 提 名 为 总 监 委 员 会 首 席 大 臣 , 这 次 大 赦 令 于 11 月 2 日 被 授 予 特 别 荣 誉 勋 章 。 另 外 两 次 大 赦 令 在 2017 年 5 月 31 日 被 撤 销 。 自 1968 年 开 始 , 约 翰 · 卡 梅 伦 继 续 在 担 任 总 司 令 期 间 负 责 指 挥 政 府 各 方 面 工 作 。 他 在 1975 年 至 1977 年 担 任 英 联 邦 内 阁 的 财 政 部 长 , 直 至 1979 年 卸 职 , 并 且 于 1991 年 退 休 。 他 曾 短 暂 留 守 英 格 拉 斯 哥 伦 比 亚 省 , 任 内 曾 担 任 一 家 银 行 的 董 事 , 但 随 即 辞 去 政 府 财 政 大 臣 职 务 并 离 任 。 在 卸 任 前 一 段 短 暂 的 1996 年 8 月 30 日 , 约 瑟 夫 · 哈 里 森 · 冯 · 德 雷 弗 洛 将 军 接 替 了 他 父 亲 成 为 总 裁 一 职 ; 同 时 , 他 与 他 签 订 了 合 同 。 2003 年 1 月 26 日 , 约 翰 · 卡 梅 伦 正 式 卸 任 总 统 。 在 他 任 内 逝 世 前 半 叶 , 约 瑟 夫 · 哈 里 森 已 经 发 现 他 所 做 的 贡 献 是 「 我 们 对 于 那 些 我 们 的 问 题 感 激 极 度 赞 扬 和 信 奉 的 人 。 」 然 而 约 瑟 夫 · 哈 里 森 的 遗 孀 埃 米 莉 娅 · 普 鲁 托 娃 在 其 著 作 《 the blade and forest men out 》 中 表 示 她 并 没 有 提 供 任 何 资 料 , 而 是 向 英 国 女 记 者 伊 丽 莎 白 · 安 妮 娜 · 赫 伯 特 求 婚 ; 而 在 她 死 后 的 生 日 当 天 夜 晚 则 写 道 : 「 我 们 都 知 道 她 有 一 个 好 孩 子 . . . 我 们 认 识 她 。 」 他 还 写 道 : 「 她 是 很 聪 明 的 。 但 你 们 却 能 够 从 她 的 眼 睛 看 见 自 己 。 」 在 1997 年 , 约 瑟 夫 · 哈 里 森 写 道 「 一 切 可 以 通 过 这 种 观 点 解 决 问 题 吗 ? 她 就 是 在 1930 / 36 年 访 问 英 国 以 前 的 总 统 候 选 人 。 」 她 回 忆 说 「 我 觉 得 自 己 像 只 小 鸟 儿 的 母 鸡 」 。 在 2015 年 3 月 23 日 , 约 瑟 夫 · 哈 里 森 宣 称 与 丈 夫 的 关 系 恶 化 , 并 且 承 诺 让 妻 子 离 开 政 坛 。 在 同 样 的 时 刻 , 他 还 写 道 : 「 如 果 我 想 要 一 个 男 朋 友 在 我 们 当 中 找 到 一 个 有 钱 无 势 的 丈 夫 , 或 许 他 将 不 再 拥 有 她 」 。 约 瑟 夫 · 哈 里 森 还 告 诉 丈 夫 : “ 如 果 我 们 愿 意 , 如 果 我 们 想 要 一 个 更 多 的 丈 夫 的 丈 夫 , 我 将 不 再 拥 有 她 的 家 庭 。 ” 她 在 电 话 中 透 露 丈 夫 的 关 系 将 改 变 。 她 也 相 信 他 会 为 他 的 家 庭 付 出 代 价 , 并 表 达 他 对 妻 子 不 忠 诚 的 态’}] [{‘generated_text’: ‘跨越山丘 上 的 一 个 小 岛 。 在 1960 年 代 至 今 , 该 岛 曾 被 用 来 为 住 宅 与 工 业 区 使 用 。 在 1882 年 由 于 英 国 皇 家 空 军 的 攻 击 而 开 放 给 英 军 航 海 家 亨 利 · 威 尔 逊 ( henry woodman ) 使 用 , 其 后 在 1895 年 重 建 成 现 时 的 地 点 之 一 , 也 是 第 二 次 世 界 大 战 爆 发 前 美 军 所 有 的 主 要 基 地 — — 圣 彼 得 堡 、 布 鲁 克 斯 特 和 弗 拉 德 纳 尔 斯 堡 。 该 基 地 最 初 是 以 当 地 居 民 的 形 象 而 兴 起 , 但 到 了 1941 年 改 名 为 「 」 。 随 著 1973 年 7 月 30 日 的 「 圣 保 罗 号 航 母 舰 载 人 事 件 」 ( freedom of peak the new rockety iii and development , vol . 5 blocks official state ) 正 式 启 动 , 美 国 总 统 约 翰 逊 决 定 加 强 对 这 座 岛 屿 的 管 辖 权 , 同 时 将 其 命 名 为 「 ( forbenton constantines emplosibled armeerse ) 」 ; 而 此 项 目 亦 计 划 将 岛 中 部 分 岛 屿 作 为 军 港 。 然 而 在 实 施 过 程 当 下 , 岛 屿 本 身 并 未 能 够 容 许 受 损 或 者 遭 遇 严 重 危 险 的 环 境 。 1960 年 代 早 期 , 该 基 地 已 经 不 断 变 化 。 在 此 期 间 , 由 于 岛 的 面 积 较 旧 , 因 此 岛 屿 的 面 貌 已 不 如 前 几 位 更 古 老 且 更 具 活 力 的 基 督 教 新 教 会 神 父 级 别 及 信 徒 。 在 1990 年 , 岛 屿 被 列 入 联 合 国 教 科 文 组 织 的 濒 危 物 种 红 色 标 准 之 列 。 由 于 岛 上 缺 乏 足 迹 资 源 , 导 致 该 基 地 的 土 地 价 值 超 出 预 期 。 1986 年 , 联 合 国 教 科 文 组 织 颁 令 禁 止 任 何 基 本 的 基 础 设 备 以 供 应 其 他 基 础 设 备 。 根 据 此 项 裁 决 , 美 国 政 府 于 当 时 可 提 供 的 基 础 设 施 已 经 完 全 停 止 营 运 。 美 军 的 战 俘 们 在 2005 年 12 月 2 日 向 英 属 印 度 总 统 约 瑟 夫 · 沃 森 表 示 , 在 美 军 撤 退 后 , 他 们 的 遗 体 被 送 往 英 国 殖 民 地 , 而 这 些 骨 器 则 被 送 抵 达 英 国 皇 室 家 园 , 其 遗 骸 是 从 那 里 搬 运 出 来 。 2003 年 9 月 , 联 邦 公 务 员 法 兰 西 丝 ( marvelly ) 宣 告 将 该 岛 屿 命 名 。 在 2004 年 , 美 国 参 议 院 以 及 多 伦 多 地 方 选 举 委 员 会 通 过 《 基 于 宪 法 》 , 确 认 了 美 帝 国 的 “ ” , 并 指 控 它 的 设 立 。 2007 年 11 月 29 日 , 该 委 员 会 又 通 过 了 一 项 新 的 修 订 , 规 定 : 「 基 于 宪 法 规 定 的 条 款 必 须 依 照 美 国 宪 章 所 做 的 判 决 。 」 该 委 员 会 的 批 准 包 括 : 美 军 撤 换 军 官 、 美 国 人 和 其 他 外 交 官 职 称 等 内 容 、 并 无 关 闭 其 他 机 构 。 在 此 期 间 , 联 盟 国 领 袖 在 2010 年 1 月 25 日 发 布 声 明 说 服 英 方 允 诺 支 持 , 将 在 2010 年 4 月 3 日 召 开 国 际 联 盟 常 驻 会 议 , 并 宣 言 : 美 国 将 采 取 行 动 解 释 基 金 会 在 该 基 地 建 立 基 地 、 以 防 止 该 国 人 士 进 入 , 并 让 它 与 其 签 署 有 效 协 议 的 基 础 设 施 。’}]

我们能看到效果还是可以的吧,我使用的是Google提供的tpu进行演示,生成3个段落,花费了20分钟左右时间,我们平时用的机器不知道要到猴年马月了,还是去薅羊毛吧!

感兴趣的小伙伴可以关注本站,一起交流、学习进步哦!