Regressive Tax 是什么意思嘛？

regressive tax

英[rɪˈgresɪv tæks]

美[rɪˈɡrɛsɪv tæks]

n. 递减税;

[例句]Worse, it is a regressive tax, which disproportionately hurts **all banks with weak deposit bases.

更糟糕的是，这是一种递减税，会对存款基础薄弱的小型**造成超出比例的伤害。

GPT的auto-regressive语言模型架构在信息表示方面有什么架构上的缺陷？具体如何改进？

1） GPT

在Bert 之后，OpenAI 的 GPT-2 就是其中之一。它在文本生成上有着惊艳的表现，其生成的文本在上下文连贯性和情感表达上都超过了人们对目前阶段语言模型的预期。仅从模型架构而言，GPT-2 并没有特别新颖的架构，它和 transformer 的 Decoder 类似。相比较于GPT-1，GPT -2 使用了更大的预料，更大和更深的模型。

从transformer的decoder里移除了decoder对encoder的attention部分。也就是消除掉了seq2seq的过程。

GPT是一个语言模型，每一个时刻只能看见当前时刻前面时刻的信息，是一个auto regressive的过程。

GPT2，hidden state的大小有变化，根据层数的多少有**all，medum，large，extra large的划分。

GPT的训练过程是交叉式的预测下一个单词，测试的时候是输入一个句子生成另外一个句子。

GPT的预训练就是训练一个语言模型。而bert的预训练是masked language model和nsp的任务。

GPT由多个decocer block组成，每一个decoder block由masked self-attention和feed forward neural network组成。

一个timestamp的hidden state经过线性层转换为vocab size大小的embedding， 然后经过softmax，算出每个词汇的概率，找出其中概率最大的词作为预测输出，然后下一个时刻的词作为真实输出，计算两者的cross entropy来训练模型。

每一个timestamp后面的位置都mask掉，设置一个负无群大的值，做softmax的时候，该位置的值就为0。

2）总结

transformer decoder的构造

预训练的时候做语言模型的训练

GPT2用更多更深的block

BERT是做NLU，generation做不了

GPT天生就是语言模型，非常适合做generation的任务，在bert里能做的在gpt里也可以做

除了GPT-2 ，GPT-3依旧延续自己的单向语言模型训练方式，只不过把模型尺寸增大到了1750亿，并且使用45TB数据进行训练

Regressive Tax 是什么意思啊？

regressive tax指的是累退税。

累退税是按税率分类的一类税。指按累退税率计征的各种税。指税收负担具有累退性质的各种税。一般认为，不论纳税人收益或财产数额大小，负担能力高低，都按同一比例征税，结果负担能力高者，负担率低，而负担能力低者，负担率高，纳税人之间的负担能力差距越大，这种现象越明显，故对具有这种性质的税称之为累退税。

拓展资料：

相对比例越小，税率越高。累退税是指税额相对于纳税人净收入的比例而言，而不是指税额相对于课税对象的比例。如果不论纳税人收益和财产数额大小，负担能力高低，都按同一比例征税，结果负担能力高者，负担率低;而负担能力低者，负担率高，这实质上就是一种累退税。

常见的例子是营业税、消费税和财产税。例如，营业税按营业额的多少，依一定比例计征。按照定义属于比例税。而纳税人营业额的数量越大，其取得的收入越多，负担能力越高，按照比例税率计算税额，纳税人负担率相对于其负担能力来说是递减的。因此，这种表面上和课税基数成比例的税，常常被认为是按照纳税人收入来说累退的税。

累退税率，亦称“累减税率”、“逆进税率”。指随课税对象数额的增大，而税率逐级降低的税率制度。这种税率的显著特点是，课税对象数量越大，税率越低;课税对象数量越小，税率越高。由于这种税率不符合税收合理负担、应能负担的原则，一般不被采用。

但在某种特定条件下，为达到特定目的，作为一种过渡办法，也可能被使用。如政府要限制、禁止或不允许的小生产经营，收入额越小，越课以重税，即可采用这种形式的税率，以达到预定目的。我国在第二步利改税时，国家与国营大、中型企业的利润分配关系，采用所得税加调节税定比减征的办法，实质上就是一种累退税率。

假定某企业基期利润100万元，按55%的统一比例所得税率应纳所得税55万元，企业合理留利10万元，应核定该企业调节税税率为35%，但调节税可给以定比减征70%的照顾。也就是说以后年度的增量利润的调节税税率，可按10.5%的调率计征。这种利润分配制度，实际上是以100万元为划分级距的分界点，两级超额累退税率。

reverse和regressive区别

reverse作形容词时，意思是：反面的、颠倒的；regressive为形容词，意思是：后退的; 逆行的; 退化的; 回归的。例如：

1.Amis tells the story in reverse, from the moment the man dies.

埃米斯以倒叙的方式讲述了这个故事，从这个男人死去的时候开始讲起。

2.The wrong attitude will have exactly the reverse effect.

错误的态度会产生完全相反的效果。

3.The policy has been condemned as a regressive step.

这项政策被认为是一种倒退而受到谴责。

4.This regressive behaviour is more common in boys.

这种行为上的倒退现象在男孩中更加普遍。