注册一亩三分地论坛,查看更多干货!
您需要 登录 才可以下载或查看附件。没有帐号?注册账号 
x
说明:数据集是官方给的 ~25 万词典;评估指标是整局猜中率(胜率)。Baseline 大概在 18% 左右。
(不知道题目是什么可以很容易搜到)
0)规则与评估(我怎么测)
每局从词典里随机取一个单词,初始 mask 形如 _____。
每次只能猜一个字母;猜错会扣生命值(标准 Hangman 规则)。
胜率 = 在固定测试集上从空 mask 开始完整模拟的赢局比例。
我另外统计了:平均用多少次猜中、错误次数分布、不同词长的胜率曲线。
1)我做过的尝试 (不想看的可以直接拉到最后看建议)
A. 词频/位置频率启发式(最先跑起来的版本)
思路:
先用全词典统计字母的全局频率与按位置的频率(比如第1位最常见哪些字母)。
每一步根据当前 mask 和已猜/排除的字母,在候选词集合上重算字母出现频率,选“信息量最大”的字母去猜。
信息量我试过两种:
直接选候选集中出现次数最多的字母;
选能把候选集切分最均匀的字母(近似最大熵)。
效果:
很快能到 30%–40% 胜率;短词(≤5)偏难、常见后缀(-ing/-ed)略有优势。
优点:实现简单、可解释。
缺点点关系)。
3)一些踩坑 & 小技巧
评估要从“空局”模拟:不能用“知道答案”的信息去猜,容易乐观偏差。
样本生成的平衡:训练时别让模型只学会“选全局高频字母”。我通过困难样本上采样缓解(例如短词、少元音、罕见前缀)。
不同词长分别看:短词(≤4)是噩梦,尽量用 n-gram/词形先验去拉一把。
不要过拟合“测试词典”:训练/验证/测试要划分好,尤其你会频繁迭代。
4)建议:
设备撑得起来就跑bilstm+做做early game的策略,能跑到60%+。 时间不够or没什么调参经验,就直接去学一下ngram,轻轻松松跑上50%+,省时省力很多,扣扣细节应该也可以通过。不要难为自己!
求加米!!!! |