语音解读
图文解释
目录
osIoUtil
介绍
万物皆文件
UNIX 的一个基础设计就是"万物皆文件"(everything is a file)。我们不必知道一个文件到底映射成什么,操作系统的设备驱动抽象成文件。操作系统为设备提供了文件格式的接口。
/dev
基本操作
创建空文件
package main
import (
"log"
"os"
)
var (
newFile *os.File
err error
)
func main() {
newFile,err = os.Create("test.txt")
if err != nil {
log.Fatal(err)
}
log.Println(newFile)
newFile.Close()
}
Truncate文件
package main
import (
"log"
"os"
)
func main() {
// 裁剪一个文件到100个字节。
// 如果文件本来就少于100个字节,则文件中原始内容得以保留,剩余的字节以null字节填充。
// 如果文件本来超过100个字节,则超过的字节会被抛弃。
// 这样我们总是得到精确的100个字节的文件。
// 传入0则会清空文件。
err := os.Truncate("test.txt",100)
if err != nil {
log.Fatal(err)
}
}
得到文件信息
package main
import (
"fmt"
"log"
"os"
)
var (
fileInfo os.FileInfo
err error
)
func main() {
// 如果文件不存在,则返回错误
fileInfo,err = os.Stat("test.txt")
if err != nil {
log.Fatal(err)
}
fmt.Println("File name:",fileInfo.Name())
fmt.Println("Size in bytes:",fileInfo.Size())
fmt.Println("Permissions:",fileInfo.Mode())
fmt.Println("Last modified:",fileInfo.ModTime())
fmt.Println("Is Directory: ",fileInfo.IsDir())
fmt.Printf("System interface type: %T\n",fileInfo.Sys())
fmt.Printf("System info: %+v\n\n",fileInfo.Sys())
}
重命名和移动
package main
import (
"log"
"os"
)
func main() {
originalPath := "test.txt"
newPath := "test2.txt"
err := os.Rename(originalPath,newPath)
if err != nil {
log.Fatal(err)
}
}
译者按: rename 和 move 原理一样
package main
import (
"log"
"os"
)
func main() {
err := os.Remove("test.txt")
if err != nil {
log.Fatal(err)
}
}
打开和关闭文件
package main
import (
"log"
"os"
)
func main() {
// 简单地以只读的方式打开。下面的例子会介绍读写的例子。
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
file.Close()
// OpenFile提供更多的选项。
// 最后一个参数是权限模式permission mode
// 第二个是打开时的属性
file,err = os.OpenFile("test.txt",os.O_APPEND,0666)
if err != nil {
log.Fatal(err)
}
file.Close()
// 下面的属性可以单独使用,也可以组合使用。
// 组合使用时可以使用 OR 操作设置 OpenFile的第二个参数,例如:
// os.O_CREATE|os.O_APPEND
// 或者 os.O_CREATE|os.O_Trunc|os.O_WRONLY
// os.O_RDONLY // 只读
// os.O_WRONLY // 只写
// os.O_RDWR // 读写
// os.O_APPEND // 往文件中添建(Append)
// os.O_CREATE // 如果文件不存在则先创建
// os.O_Trunc // 文件打开时裁剪文件
// os.O_EXCL // 和O_CREATE一起使用,文件不能存在
// os.O_SYNC // 以同步I/O的方式打开
}
检查文件是否存在
package main
import (
"log"
"os"
)
var (
fileInfo *os.FileInfo
err error
)
func main() {
// 文件不存在则返回error
fileInfo,err := os.Stat("test.txt")
if err != nil {
if os.IsNotExist(err) {
log.Fatal("File does not exist.")
}
}
log.Println("File does exist. File information:")
log.Println(fileInfo)
}
检查读写权限
package main
import (
"log"
"os"
)
func main() {
// 这个例子测试写权限,如果没有写权限则返回error。
// 注意文件不存在也会返回error,需要检查error的信息来获取到底是哪个错误导致。
file,err := os.OpenFile("test.txt",os.O_WRONLY,0666)
if err != nil {
if os.IsPermission(err) {
log.Println("Error: Write permission denied.")
}
}
file.Close()
// 测试读权限
file,os.O_RDONLY,0666)
if err != nil {
if os.IsPermission(err) {
log.Println("Error: Read permission denied.")
}
}
file.Close()
}
改变权限、拥有者、时间戳
package main
import (
"log"
"os"
"time"
)
func main() {
// 使用Linux风格改变文件权限
err := os.Chmod("test.txt",0777)
if err != nil {
log.Println(err)
}
// 改变文件所有者
err = os.Chown("test.txt",os.Getuid(),os.Getgid())
if err != nil {
log.Println(err)
}
// 改变时间戳
twoDaysFromNow := time.Now().Add(48 * time.Hour)
lastAccesstime := twoDaysFromNow
lastModifyTime := twoDaysFromNow
err = os.Chtimes("test.txt",lastAccesstime,lastModifyTime)
if err != nil {
log.Println(err)
}
}
硬链接和软链接
一个普通的文件是一个指向硬盘的inode的地方。
硬链接创建一个新的指针指向同一个地方。只有所有的链接被删除后文件才会被删除。硬链接只在相同的文件系统中才工作。你可以认为一个硬链接是一个正常的链接。
symbolic link,又叫软连接,和硬链接有点不一样,它不直接指向硬盘中的相同的地方,而是通过名字引用其它文件。他们可以指向不同的文件系统中的不同文件。并不是所有的操作系统都支持软链接。
package main
import (
"os"
"log"
"fmt"
)
func main() {
// 创建一个硬链接。
// 创建后同一个文件内容会有两个文件名,改变一个文件的内容会影响另一个。
// 删除和重命名不会影响另一个。
err := os.Link("original.txt","original_also.txt")
if err != nil {
log.Fatal(err)
}
fmt.Println("creating sym")
// Create a symlink
err = os.Symlink("original.txt","original_sym.txt")
if err != nil {
log.Fatal(err)
}
// Lstat返回一个文件的信息,但是当文件是一个软链接时,它返回软链接的信息,而不是引用的文件的信息。
// Symlink在Windows中不工作。
fileInfo,err := os.Lstat("original_sym.txt")
if err != nil {
log.Fatal(err)
}
fmt.Printf("Link info: %+v",fileInfo)
//改变软链接的拥有者不会影响原始文件。
err = os.Lchown("original_sym.txt",os.Getgid())
if err != nil {
log.Fatal(err)
}
}
读写
复制文件
package main
import (
"os"
"log"
"io"
)
func main() {
// 打开原始文件
originalFile,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
defer originalFile.Close()
// 创建新的文件作为目标文件
newFile,err := os.Create("test_copy.txt")
if err != nil {
log.Fatal(err)
}
defer newFile.Close()
// 从源中复制字节到目标文件
bytesWritten,err := io.copy(newFile,originalFile)
if err != nil {
log.Fatal(err)
}
log.Printf("copied %d bytes.",bytesWritten)
// 将文件内容flush到硬盘中
err = newFile.Sync()
if err != nil {
log.Fatal(err)
}
}
跳转到文件指定位置(Seek)
package main
import (
"os"
"fmt"
"log"
)
func main() {
file,_ := os.Open("test.txt")
defer file.Close()
// 偏离位置,可以是正数也可以是负数
var offset int64 = 5
// 用来计算offset的初始位置
// 0 = 文件开始位置
// 1 = 当前位置
// 2 = 文件结尾处
var whence int = 0
newPosition,err := file.Seek(offset,whence)
if err != nil {
log.Fatal(err)
}
fmt.Println("Just moved to 5:",newPosition)
// 从当前位置回退两个字节
newPosition,err = file.Seek(-2,1)
if err != nil {
log.Fatal(err)
}
fmt.Println("Just moved back two:",newPosition)
// 使用下面的技巧得到当前的位置
currentPosition,err := file.Seek(0,1)
fmt.Println("Current position:",currentPosition)
// 转到文件开始处
newPosition,err = file.Seek(0,0)
if err != nil {
log.Fatal(err)
}
fmt.Println("Position after seeking 0,0:",newPosition)
}
osio
package main
import (
"os"
"log"
)
func main() {
// 可写方式打开文件
file,err := os.OpenFile(
"test.txt",os.O_WRONLY|os.O_Trunc|os.O_CREATE,0666,)
if err != nil {
log.Fatal(err)
}
defer file.Close()
// 写字节到文件中
byteSlice := []byte("Bytes!\n")
bytesWritten,err := file.Write(byteSlice)
if err != nil {
log.Fatal(err)
}
log.Printf("Wrote %d bytes.\n",bytesWritten)
}
快写文件
IoUtilWriteFile()
package main
import (
"io/IoUtil"
"log"
)
func main() {
err := IoUtil.WriteFile("test.txt",[]byte("Hi\n"),0666)
if err != nil {
log.Fatal(err)
}
}
使用缓存写
bufio
package main
import (
"log"
"os"
"bufio"
)
func main() {
// 打开文件,只写
file,0666)
if err != nil {
log.Fatal(err)
}
defer file.Close()
// 为这个文件创建buffered writer
bufferedWriter := bufio.NewWriter(file)
// 写字节到buffer
bytesWritten,err := bufferedWriter.Write(
[]byte{65,66,67},)
if err != nil {
log.Fatal(err)
}
log.Printf("Bytes written: %d\n",bytesWritten)
// 写字符串到buffer
// 也可以使用 WriteRune() 和 WriteByte()
bytesWritten,err = bufferedWriter.WriteString(
"Buffered string\n",bytesWritten)
// 检查缓存中的字节数
unflushedBufferSize := bufferedWriter.Buffered()
log.Printf("Bytes buffered: %d\n",unflushedBufferSize)
// 还有多少字节可用(未使用的缓存大小)
bytesAvailable := bufferedWriter.Available()
if err != nil {
log.Fatal(err)
}
log.Printf("Available buffer: %d\n",bytesAvailable)
// 写内存buffer到硬盘
bufferedWriter.Flush()
// 丢弃还没有flush的缓存的内容,清除错误并把它的输出传给参数中的writer
// 当你想将缓存传给另外一个writer时有用
bufferedWriter.Reset(bufferedWriter)
bytesAvailable = bufferedWriter.Available()
if err != nil {
log.Fatal(err)
}
log.Printf("Available buffer: %d\n",bytesAvailable)
// 重新设置缓存的大小。
// 第一个参数是缓存应该输出到哪里,这个例子中我们使用相同的writer。
// 如果我们设置的新的大小小于第一个参数writer的缓存大小, 比如10,我们不会得到一个10字节大小的缓存,
// 而是writer的原始大小的缓存,默认是4096。
// 它的功能主要还是为了扩容。
bufferedWriter = bufio.NewWriterSize(
bufferedWriter,8000,)
// resize后检查缓存的大小
bytesAvailable = bufferedWriter.Available()
if err != nil {
log.Fatal(err)
}
log.Printf("Available buffer: %d\n",bytesAvailable)
}
读取最多N个字节
os.FileioIoUtilbufio
package main
import (
"os"
"log"
)
func main() {
// 打开文件,只读
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
defer file.Close()
// 从文件中读取len(b)字节的文件。
// 返回0字节意味着读取到文件尾了
// 读取到文件会返回io.EOF的error
byteSlice := make([]byte,16)
bytesRead,err := file.Read(byteSlice)
if err != nil {
log.Fatal(err)
}
log.Printf("Number of bytes read: %d\n",bytesRead)
log.Printf("Data read: %s\n",byteSlice)
}
读取正好N个字节
package main
import (
"os"
"log"
"io"
)
func main() {
// Open file for reading
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
// file.Read()可以读取一个小文件到大的byte slice中,
// 但是io.ReadFull()在文件的字节数小于byte slice字节数的时候会返回错误
byteSlice := make([]byte,2)
numBytesRead,err := io.ReadFull(file,byteSlice)
if err != nil {
log.Fatal(err)
}
log.Printf("Number of bytes read: %d\n",numBytesRead)
log.Printf("Data read: %s\n",byteSlice)
}
读取至少N个字节
package main
import (
"os"
"log"
"io"
)
func main() {
// 打开文件,只读
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
byteSlice := make([]byte,512)
minBytes := 8
// io.ReadAtLeast()在不能得到最小的字节的时候会返回错误,但会把已读的文件保留
numBytesRead,err := io.ReadAtLeast(file,byteSlice,minBytes)
if err != nil {
log.Fatal(err)
}
log.Printf("Number of bytes read: %d\n",byteSlice)
}
读取全部字节
package main
import (
"os"
"log"
"fmt"
"io/IoUtil"
)
func main() {
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
// os.File.Read(),io.ReadFull() 和
// io.ReadAtLeast() 在读取之前都需要一个固定大小的byte slice。
// 但IoUtil.ReadAll()会读取reader(这个例子中是file)的每一个字节,然后把字节slice返回。
data,err := IoUtil.ReadAll(file)
if err != nil {
log.Fatal(err)
}
fmt.Printf("Data as hex: %x\n",data)
fmt.Printf("Data as string: %s\n",data)
fmt.Println("Number of bytes read:",len(data))
}
快读到内存
package main
import (
"log"
"io/IoUtil"
)
func main() {
// 读取文件到byte slice中
data,err := IoUtil.ReadFile("test.txt")
if err != nil {
log.Fatal(err)
}
log.Printf("Data read: %s\n",data)
}
使用缓存读
os.Fileio.Reader
package main
import (
"os"
"log"
"bufio"
"fmt"
)
func main() {
// 打开文件,创建buffered reader
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
bufferedReader := bufio.NewReader(file)
// 得到字节,当前指针不变
byteSlice := make([]byte,5)
byteSlice,err = bufferedReader.Peek(5)
if err != nil {
log.Fatal(err)
}
fmt.Printf("Peeked at 5 bytes: %s\n",byteSlice)
// 读取,指针同时移动
numBytesRead,err := bufferedReader.Read(byteSlice)
if err != nil {
log.Fatal(err)
}
fmt.Printf("Read %d bytes: %s\n",numBytesRead,byteSlice)
// 读取一个字节,如果读取不成功会返回Error
myByte,err := bufferedReader.ReadByte()
if err != nil {
log.Fatal(err)
}
fmt.Printf("Read 1 byte: %c\n",myByte)
// 读取到分隔符,包含分隔符,返回byte slice
dataBytes,err := bufferedReader.ReadBytes('\n')
if err != nil {
log.Fatal(err)
}
fmt.Printf("Read bytes: %s\n",dataBytes)
// 读取到分隔符,包含分隔符,返回字符串
dataString,err := bufferedReader.ReadString('\n')
if err != nil {
log.Fatal(err)
}
fmt.Printf("Read string: %s\n",dataString)
//这个例子读取了很多行,所以test.txt应该包含多行文本才不至于出错
}
使用 scanner
Scannerbufioos.Filebufio.ScannerScan()Text()Bytes()
SplitFuncScanLinesnewlineScanRunesScanWordsbufio
// To define your own split function,match this fingerprint
type SplitFunc func(data []byte,atEOF bool) (advance int,token []byte,err error)
// Returning (0,nil,nil) will tell the scanner
// to scan again,but with a bigger buffer because
// it wasn't enough data to reach the delimiter
bufio.Scanner
package main
import (
"os"
"log"
"fmt"
"bufio"
)
func main() {
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
scanner := bufio.NewScanner(file)
// 缺省的分隔函数是bufio.ScanLines,我们这里使用ScanWords。
// 也可以定制一个SplitFunc类型的分隔函数
scanner.Split(bufio.ScanWords)
// scan下一个token.
success := scanner.Scan()
if success == false {
// 出现错误或者EOF是返回Error
err = scanner.Err()
if err == nil {
log.Println("Scan completed and reached EOF")
} else {
log.Fatal(err)
}
}
// 得到数据,Bytes() 或者 Text()
fmt.Println("First word found:",scanner.Text())
// 再次调用scanner.Scan()发现下一个token
}
压缩
打包(zip) 文件
// This example uses zip but standard library
// also supports tar archives
package main
import (
"archive/zip"
"log"
"os"
)
func main() {
// 创建一个打包文件
outFile,err := os.Create("test.zip")
if err != nil {
log.Fatal(err)
}
defer outFile.Close()
// 创建zip writer
zipwriter := zip.NewWriter(outFile)
// 往打包文件中写文件。
// 这里我们使用硬编码的内容,你可以遍历一个文件夹,把文件夹下的文件以及它们的内容写入到这个打包文件中。
var filesToArchive = []struct {
Name,Body string
} {
{"test.txt","String contents of file"},{"test2.txt","\x61\x62\x63\n"},}
// 下面将要打包的内容写入到打包文件中,依次写入。
for _,file := range filesToArchive {
fileWriter,err := zipwriter.Create(file.Name)
if err != nil {
log.Fatal(err)
}
_,err = fileWriter.Write([]byte(file.Body))
if err != nil {
log.Fatal(err)
}
}
// 清理
err = zipwriter.Close()
if err != nil {
log.Fatal(err)
}
}
抽取(unzip) 文件
// This example uses zip but standard library
// also supports tar archives
package main
import (
"archive/zip"
"log"
"io"
"os"
"path/filepath"
)
func main() {
zipReader,err := zip.OpenReader("test.zip")
if err != nil {
log.Fatal(err)
}
defer zipReader.Close()
// 遍历打包文件中的每一文件/文件夹
for _,file := range zipReader.Reader.File {
// 打包文件中的文件就像普通的一个文件对象一样
zippedFile,err := file.open()
if err != nil {
log.Fatal(err)
}
defer zippedFile.Close()
// 指定抽取的文件名。
// 你可以指定全路径名或者一个前缀,这样可以把它们放在不同的文件夹中。
// 我们这个例子使用打包文件中相同的文件名。
targetDir := "./"
extractedFilePath := filepath.Join(
targetDir,file.Name,)
// 抽取项目或者创建文件夹
if file.FileInfo().IsDir() {
// 创建文件夹并设置同样的权限
log.Println("Creating directory:",extractedFilePath)
os.MkdirAll(extractedFilePath,file.Mode())
} else {
//抽取正常的文件
log.Println("Extracting file:",file.Name)
outputFile,err := os.OpenFile(
extractedFilePath,os.O_WRONLY|os.O_CREATE|os.O_Trunc,file.Mode(),)
if err != nil {
log.Fatal(err)
}
defer outputFile.Close()
// 通过io.copy简洁地复制文件内容
_,err = io.copy(outputFile,zippedFile)
if err != nil {
log.Fatal(err)
}
}
}
}
压缩文件
// 这个例子中使用gzip压缩格式,标准库还支持zlib,bz2,flate,lzw
package main
import (
"os"
"compress/gzip"
"log"
)
func main() {
outputFile,err := os.Create("test.txt.gz")
if err != nil {
log.Fatal(err)
}
gzipwriter := gzip.NewWriter(outputFile)
defer gzipwriter.Close()
// 当我们写如到gizp writer数据时,它会依次压缩数据并写入到底层的文件中。
// 我们不必关心它是如何压缩的,还是像普通的writer一样操作即可。
_,err = gzipwriter.Write([]byte("Gophers rule!\n"))
if err != nil {
log.Fatal(err)
}
log.Println("Compressed data written to file.")
}
解压缩文件
// 这个例子中使用gzip压缩格式,标准库还支持zlib,lzw
package main
import (
"compress/gzip"
"log"
"io"
"os"
)
func main() {
// 打开一个gzip文件。
// 文件是一个reader,但是我们可以使用各种数据源,比如web服务器返回的gzipped内容,
// 它的内容不是一个文件,而是一个内存流
gzipFile,err := os.Open("test.txt.gz")
if err != nil {
log.Fatal(err)
}
gzipReader,err := gzip.NewReader(gzipFile)
if err != nil {
log.Fatal(err)
}
defer gzipReader.Close()
// 解压缩到一个writer,它是一个file writer
outfileWriter,err := os.Create("unzipped.txt")
if err != nil {
log.Fatal(err)
}
defer outfileWriter.Close()
// 复制内容
_,err = io.copy(outfileWriter,gzipReader)
if err != nil {
log.Fatal(err)
}
}
其它
临时文件和目录
IoUtilTempDir()TempFile()os.TempDir()
package main
import (
"os"
"io/IoUtil"
"log"
"fmt"
)
func main() {
// 在系统临时文件夹中创建一个临时文件夹
tempDirPath,err := IoUtil.TempDir("","myTempDir")
if err != nil {
log.Fatal(err)
}
fmt.Println("Temp dir created:",tempDirPath)
// 在临时文件夹中创建临时文件
tempFile,err := IoUtil.TempFile(tempDirPath,"myTempFile.txt")
if err != nil {
log.Fatal(err)
}
fmt.Println("Temp file created:",tempFile.Name())
// ... 做一些操作 ...
// 关闭文件
err = tempFile.Close()
if err != nil {
log.Fatal(err)
}
// 删除我们创建的资源
err = os.Remove(tempFile.Name())
if err != nil {
log.Fatal(err)
}
err = os.Remove(tempDirPath)
if err != nil {
log.Fatal(err)
}
}
通过HTTP下载文件
package main
import (
"os"
"io"
"log"
"net/http"
)
func main() {
newFile,err := os.Create("devdungeon.html")
if err != nil {
log.Fatal(err)
}
defer newFile.Close()
url := "http://www.devdungeon.com/archive"
response,err := http.Get(url)
defer response.Body.Close()
// 将HTTP response Body中的内容写入到文件
// Body满足reader接口,因此我们可以使用IoUtil.copy
numBytesWritten,response.Body)
if err != nil {
log.Fatal(err)
}
log.Printf("Downloaded %d byte file.\n",numBytesWritten)
}
哈希和摘要
package main
import (
"crypto/md5"
"crypto/sha1"
"crypto/sha256"
"crypto/sha512"
"log"
"fmt"
"io/IoUtil"
)
func main() {
// 得到文件内容
data,err := IoUtil.ReadFile("test.txt")
if err != nil {
log.Fatal(err)
}
// 计算Hash
fmt.Printf("Md5: %x\n\n",md5.Sum(data))
fmt.Printf("Sha1: %x\n\n",sha1.Sum(data))
fmt.Printf("Sha256: %x\n\n",sha256.Sum256(data))
fmt.Printf("Sha512: %x\n\n",sha512.Sum512(data))
}
WriteWriteString
package main
import (
"crypto/md5"
"log"
"fmt"
"io"
"os"
)
func main() {
file,err := os.Open("test.txt")
if err != nil {
log.Fatal(err)
}
defer file.Close()
//创建一个新的hasher,满足writer接口
hasher := md5.New()
_,err = io.copy(hasher,file)
if err != nil {
log.Fatal(err)
}
// 计算hash并打印结果。
// 传递 nil 作为参数,因为我们不通参数传递数据,而是通过writer接口。
sum := hasher.Sum(nil)
fmt.Printf("Md5 checksum: %x\n",sum)
}