LuaTeX: extração de caracteres UTF-8, é uma forma mais precisa e/ou preferível que outra

LuaTeX: extração de caracteres UTF-8, é uma forma mais precisa e/ou preferível que outra

Ao experimentar maneiras de extrair strings de caracteres UTF-8 de caixas TeX, encontrei uma postagem do usuáriomicahl-h21aqui:Extração de texto UTF-8. Depois de observar como os dados do glifo são armazenados na lista de nós, modifiquei o código para ver se outra abordagem funciona. Na minha abordagem, percorro os componentes de glifos/discos complexos compostos para extrair os caracteres constituintes. Em sua abordagem, ele parece estar passando glifos complexos como ligaduras para alguma função para decompô-la. A saída impressa por ambos os nossos códigos (para a string de teste no exemplo) parece a mesma. Alguém pode revisar e sugerir se ambas as abordagens são igualmente corretas funcionalmente (estou ciente de que meu código requer tratamento especial de ligaduras TeX, ignore isso). E se sim, qual seria melhor para desempenho (posso armazenar unicode.utf8.charem cache meu código como ele, ignore essa discrepância em qualquer comentário sobre desempenho).

Aqui está o texto de saída escrito no terminal e em um arquivo de saída hello.txt: Příliš žluťoučký kůň úpěl ďábelské ódy difference diffierence.Seu código completo está emExtração de texto UTF-8, o lugar onde nossos códigos diferem é que eu não uso a seguinte função ( get_unicode) e apenas fico com unicode.utf8.char(glyphnodename.char)os componentes aplicados aos glifos (enquanto ele aplica essa função get_unicodepara decompor glifos complexos em vez de cavar um nível mais profundo no nó do glifo para obter os glifos decompostos [até onde eu entendo]).

local function get_unicode(xchar,font_id)
    local current = {}
    local uchar = identifiers[font_id].characters[xchar].tounicode
    for i= 1, string.len(uchar), 4 do
      local cchar = string.sub(uchar, i, i + 3)
      print(xchar,uchar,cchar, font_id, i)
      table.insert(current,char(tonumber(cchar,16)))
    end
    return current
  end
\documentclass{article}
\usepackage[lmargin=0.5in,tmargin=0.5in,rmargin=0.5in,bmargin=0.5in]{geometry}
\usepackage{fontspec}
\usepackage{microtype}
\usepackage[english]{babel}
\usepackage{blindtext}

\begin{document}

\setbox0=\hbox{Příliš žluťoučký \textit{kůň} úpěl \hbox{ďábelské} ódy difference diffierence.}

\directlua{
  local glyph_id = node.id("glyph")
  local disc_id = node.id("disc")
  local glue_id  = node.id("glue")
  local hlist_id = node.id("hlist")
  local vlist_id = node.id("vlist")
  local minglue = tex.sp("0.2em")
  local function nodeText(n)
    local t =  {}
    for x in node.traverse(n) do
      % glyph node
      if x.id == glyph_id then
        if bit32.band(x.subtype,2) \csstring~=0 and unicode.utf8.char(x.char) \csstring~="“" and unicode.utf8.char(x.char) \csstring~="”" then %
          for g in node.traverse_id(glyph_id,x.components) do
            if bit32.band(g.subtype, 2) \csstring~=0 then
              for gc in node.traverse_id(glyph_id,g.components) do
                table.insert(t,unicode.utf8.char(gc.char))
              end
            else
              table.insert(t,unicode.utf8.char(g.char))
            end
          end
        else
          table.insert(t,unicode.utf8.char(x.char))
        end
      % disc node
      elseif x.id == disc_id then
        for g in node.traverse_id(glyph_id,x.replace) do
          if bit32.band(g.subtype, 2) \csstring~=0 then
            for gc in node.traverse_id(glyph_id,g.components) do
              table.insert(t,unicode.utf8.char(gc.char))
            end
          else
            table.insert(t,unicode.utf8.char(g.char))
          end
        end
        % glue node
      elseif x.id == glue_id and  node.getglue(x) > minglue then      
        table.insert(t," ")
      elseif x.id == hlist_id or x.id == vlist_id then
        table.insert(t,nodeText(x.head))
      end
    end
    return table.concat(t)
  end
  local n = tex.getbox(0)
  print(nodeText(n.head))
  local f = io.open("hello.txt","w")
  f:write(nodeText(n.head))
  f:close()

}

\box0

\end{document}

informação relacionada