自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(10)
  • 论坛 (1)
  • 收藏
  • 关注

原创 transformer xl的学习

原始论文翻译图形化理解学习链接transformer xl 主要解决transformer句子长度必须固定,如果长度超过定义的最大长度就会舍弃后面的词语。这样就把一个句子分成两段文本,不利于长文本的计算。transformer xl的速度更快,并且使用了相对位置embedding而不是像transformer一样的绝对位置embedding....

2019-07-28 15:51:28 120

原创 position embedding学习

深入分析学习transformer中在进行attention的时候,位置进行变化但是attention的结果一样,在attention之后进行全连接的时候虽然知道词之间的位置,但是attention的结果没有位置信息这个时候进行全连接也是不能学习到位置信息的,所以需要进行位置信息编码一句话的长度是d,有d个词那么生成的embedding是根据d的index进行生成的,是一个绝对的emb...

2019-07-28 15:24:57 3768

原创 tensorflow中的InvalidArgumentError (see above for traceback): indices[1] = 10 is not in [0, 10)

InvalidArgumentError (see above for traceback): indices[1] = 10 is not in [0, 10)lookup的时候出现10的index,但是embedding中没有10对应的向量就会报错

2019-07-24 17:44:24 3381 6

转载 python的print与sys.stdout

学习链接

2019-07-24 17:38:40 67

原创 GPU使用

登录有GPU的机器。然后使用docker进入安装了cuda的环境。查看gpu使用状况查询命令介绍启动代码中选择gpu进行运算import osos.environ['CUDA_VISIBLE_DEVICES'] = '1'...

2019-07-21 12:46:18 107

原创 hive if null补0

hive没有ifnull函数,不过可以使用if(col is not null, col, default_value)来实现ifnull的功能,如果col不为null,返回col的值,否则返回default_value

2019-07-19 10:22:44 1598

原创 hive分区表插入和查询

hive分区表插入报错In Hive the partitioning "columns" are managed asmetadata>> they are not included in the data files, instead they are used as sub-directory names. So your partitioned table has j...

2019-07-15 20:47:30 1483

转载 gan理论学习

理论学习链接gan的原理详解gan是让生成模型尽可能生成最近似的图像,让判别模型对生成图片和原始图片的判别准确率比较高,所以损失函数定义为...

2019-07-14 15:59:27 64

转载 开源多轮对话系统

1.百度UNIT2.讯飞AIUI3.网易飞鱼

2019-07-14 15:57:28 991

转载 docker启动错误

service endpoint with name xxx already exists.解决办法

2019-07-11 19:38:53 227

空空如也

勿在浮沙筑高台LS的留言板

发表于 2020-01-02 最后回复 2020-01-02

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人 TA的粉丝

提示
确定要删除当前文章?
取消 删除