Skip to content

公式(4) #16

Description

@lsm2842035890

公式4的o_i 第k个位置的log,是只计算第k个token对应位置loss得到,还是算完整序列的loss得到,公式最后有个k i 上下标我猜是前者

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions