ディレクトリ内で UTF-8 BOM (バイトオーダーマーク) を含むすべてのファイルを検索するにはどうすればよいでしょうか?

ディレクトリ内で UTF-8 BOM (バイトオーダーマーク) を含むすべてのファイルを検索するにはどうすればよいでしょうか?

Windowsでは、ディレクトリ内のUTF-8 BOMを含むすべてのファイルを検索する(バイトオーダーマーク)。どのツールでそれが可能で、どのように実行できるのでしょうか?

PowerShell スクリプト、テキスト エディターの高度な検索機能など、何でもかまいません。

答え1

以下は PowerShell スクリプトの例です。パス内でC:最初の 3 バイトが であるファイルを検索します0xEF, 0xBB, 0xBF

Function ContainsBOM
{   
    return $input | where {
        $contents = [System.IO.File]::ReadAllBytes($_.FullName)
        $_.Length -gt 2 -and $contents[0] -eq 0xEF -and $contents[1] -eq 0xBB -and $contents[2] -eq 0xBF }
}

get-childitem "C:\*.*" | where {!$_.PsIsContainer } | ContainsBOM

「ReadAllBytes」は必要ですか? 最初の数バイトだけ読み取る方がパフォーマンスが向上するでしょうか?

確かにその通りです。こちらは最初の 3 バイトだけを読み取る更新バージョンです。

Function ContainsBOM
{   
    return $input | where {
        $contents = new-object byte[] 3
        $stream = [System.IO.File]::OpenRead($_.FullName)
        $stream.Read($contents, 0, 3) | Out-Null
        $stream.Close()
        $contents[0] -eq 0xEF -and $contents[1] -eq 0xBB -and $contents[2] -eq 0xBF }
}

get-childitem "C:\*.*" | where {!$_.PsIsContainer -and $_.Length -gt 2 } | ContainsBOM

答え2

補足として、ソース ファイルから UTF-8 BOM 文字を削除するために使用する PowerShell スクリプトを次に示します。

$files=get-childitem -Path . -Include @("*.h","*.cpp") -Recurse
foreach ($f in $files)
{
(Get-Content $f.PSPath) | 
Foreach-Object {$_ -replace "\xEF\xBB\xBF", ""} | 
Set-Content $f.PSPath
}

答え3

私のように権限が制限された企業コンピュータを使用していてPowerShellスクリプトを実行できない場合は、ポータブルNotepad++を使用できます。Pythonスクリプト次のスクリプトを使用して、タスクを実行するプラグインを作成します。

import os;
import sys;
filePathSrc="C:\\Temp\\UTF8"
for root, dirs, files in os.walk(filePathSrc):
    for fn in files:
      if fn[-4:] != '.jar' and fn[-5:] != '.ear' and fn[-4:] != '.gif' and fn[-4:] != '.jpg' and fn[-5:] != '.jpeg' and fn[-4:] != '.xls' and fn[-4:] != '.GIF' and fn[-4:] != '.JPG' and fn[-5:] != '.JPEG' and fn[-4:] != '.XLS' and fn[-4:] != '.PNG' and fn[-4:] != '.png' and fn[-4:] != '.cab' and fn[-4:] != '.CAB' and fn[-4:] != '.ico':
        notepad.open(root + "\\" + fn)
        console.write(root + "\\" + fn + "\r\n")
        notepad.runMenuCommand("Encoding", "Convert to UTF-8 without BOM")
        notepad.save()
        notepad.close()

功績はhttps://pw999.wordpress.com/2013/08/19/mass-convert-a-project-to-utf-8-using-notepad/

答え4

Powershell は最初の 2 バイトをテストします。-eq などの演算子の右側は文字列になります。

dir -file | 
% { $utf8bom = '239 187' -eq (get-content $_.fullname -AsByteStream)[0..1]
    [pscustomobject]@{name=$_.name; utf8bom=$utf8bom} }

name        utf8bom
----        -------
foo           False
script.ps1     True
script.ps1~   False

関連情報