added directory listing cache
This commit is contained in:
parent
a069baf48d
commit
4499e88245
5 changed files with 59 additions and 8 deletions
1
TODO.txt
1
TODO.txt
|
|
@ -1,5 +1,4 @@
|
||||||
* add disk quota
|
* add disk quota
|
||||||
* preload: dont load file if quota exceeded
|
* preload: dont load file if quota exceeded
|
||||||
* add LRU cache
|
* add LRU cache
|
||||||
* implement directory listing cache
|
|
||||||
* clear cache if file sizes differ and > 0
|
* clear cache if file sizes differ and > 0
|
||||||
|
|
|
||||||
|
|
@ -3,12 +3,47 @@
|
||||||
package fs
|
package fs
|
||||||
|
|
||||||
import (
|
import (
|
||||||
|
"errors"
|
||||||
"io"
|
"io"
|
||||||
"os"
|
"os"
|
||||||
|
"sync"
|
||||||
|
"time"
|
||||||
)
|
)
|
||||||
|
|
||||||
|
var NoCacheEntry = errors.New("no cache entry")
|
||||||
|
|
||||||
|
type DirCacheEntry struct {
|
||||||
|
mtime time.Time
|
||||||
|
fi []os.FileInfo
|
||||||
|
}
|
||||||
|
|
||||||
|
type DirCache struct {
|
||||||
|
mu sync.RWMutex
|
||||||
|
m map[string]*DirCacheEntry
|
||||||
|
}
|
||||||
|
|
||||||
|
func NewDirCache() *DirCache {
|
||||||
|
return &DirCache{m: make(map[string]*DirCacheEntry)}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (dc *DirCache) Get(name string) (*DirCacheEntry, error) {
|
||||||
|
dc.mu.RLock()
|
||||||
|
defer dc.mu.RUnlock()
|
||||||
|
if dce, ok := dc.m[name]; ok {
|
||||||
|
return dce, nil
|
||||||
|
}
|
||||||
|
return nil, NoCacheEntry
|
||||||
|
}
|
||||||
|
|
||||||
|
func (dc *DirCache) Set(name string, dce *DirCacheEntry) {
|
||||||
|
dc.mu.Lock()
|
||||||
|
defer dc.mu.Unlock()
|
||||||
|
dc.m[name] = dce
|
||||||
|
}
|
||||||
|
|
||||||
type Dir struct {
|
type Dir struct {
|
||||||
f *os.File
|
f *os.File
|
||||||
|
dc *DirCache
|
||||||
}
|
}
|
||||||
|
|
||||||
func (f *Dir) Read(_ []byte) (int, error) {
|
func (f *Dir) Read(_ []byte) (int, error) {
|
||||||
|
|
@ -19,8 +54,23 @@ func (f *Dir) Seek(_ int64, _ int) (int64, error) {
|
||||||
return 0, io.EOF
|
return 0, io.EOF
|
||||||
}
|
}
|
||||||
|
|
||||||
func (f *Dir) Readdir(count int) ([]os.FileInfo, error) {
|
func (f *Dir) Readdir(_ int) (fi []os.FileInfo, err error) {
|
||||||
return f.f.Readdir(count)
|
i, err := f.Stat()
|
||||||
|
if err != nil {
|
||||||
|
return
|
||||||
|
}
|
||||||
|
name := f.f.Name()
|
||||||
|
dce, err := f.dc.Get(name)
|
||||||
|
if err == NoCacheEntry || i.ModTime().After(dce.mtime) {
|
||||||
|
fi, err = f.f.Readdir(0)
|
||||||
|
if err != nil {
|
||||||
|
return
|
||||||
|
}
|
||||||
|
dce = &DirCacheEntry{i.ModTime(), fi}
|
||||||
|
f.dc.Set(name, dce)
|
||||||
|
}
|
||||||
|
fi = dce.fi
|
||||||
|
return
|
||||||
}
|
}
|
||||||
|
|
||||||
func (f *Dir) Stat() (os.FileInfo, error) {
|
func (f *Dir) Stat() (os.FileInfo, error) {
|
||||||
|
|
|
||||||
|
|
@ -28,6 +28,7 @@ type FS struct {
|
||||||
dst string
|
dst string
|
||||||
mdf *os.File
|
mdf *os.File
|
||||||
jenc *json.Encoder
|
jenc *json.Encoder
|
||||||
|
dc *DirCache
|
||||||
mm map[string]*Metadata
|
mm map[string]*Metadata
|
||||||
prem map[string]func()
|
prem map[string]func()
|
||||||
cancel func()
|
cancel func()
|
||||||
|
|
@ -56,6 +57,7 @@ func NewFS(src, dst, metadata string, log logr.Logger) (fs *FS, err error) {
|
||||||
src: src,
|
src: src,
|
||||||
dst: dst,
|
dst: dst,
|
||||||
mdf: mdf,
|
mdf: mdf,
|
||||||
|
dc: NewDirCache(),
|
||||||
mm: make(map[string]*Metadata),
|
mm: make(map[string]*Metadata),
|
||||||
prem: make(map[string]func()),
|
prem: make(map[string]func()),
|
||||||
jenc: json.NewEncoder(mdf),
|
jenc: json.NewEncoder(mdf),
|
||||||
|
|
@ -197,7 +199,7 @@ func (fs *FS) Open(name string) (f http.File, err error) {
|
||||||
offline = true
|
offline = true
|
||||||
log.V(2).Info("dir offline mode", "path", dp)
|
log.V(2).Info("dir offline mode", "path", dp)
|
||||||
}
|
}
|
||||||
return &Dir{f: sf}, err
|
return &Dir{f: sf, dc: fs.dc}, err
|
||||||
}
|
}
|
||||||
md := fs.metadata(name, sfi.Size())
|
md := fs.metadata(name, sfi.Size())
|
||||||
return &File{
|
return &File{
|
||||||
|
|
|
||||||
|
|
@ -67,10 +67,10 @@ func (fs *FileServer) ServeHTTP(w http.ResponseWriter, r *http.Request) {
|
||||||
}
|
}
|
||||||
|
|
||||||
if !d.IsDir() {
|
if !d.IsDir() {
|
||||||
if option == "p" || option == "sp" {
|
if option == "p" || option == "s" {
|
||||||
if option == "p" {
|
if option == "p" {
|
||||||
fs.fs.Preload(p)
|
fs.fs.Preload(p)
|
||||||
} else {
|
} else if option == "s" {
|
||||||
fs.fs.CancelPreload(p)
|
fs.fs.CancelPreload(p)
|
||||||
}
|
}
|
||||||
rdir := "/"
|
rdir := "/"
|
||||||
|
|
|
||||||
|
|
@ -30,7 +30,7 @@ var (
|
||||||
{{end -}}
|
{{end -}}
|
||||||
{{range $s := .Files -}}
|
{{range $s := .Files -}}
|
||||||
<tr><td><a id="{{$s.Anchor}}" href="{{$s.Name}}">{{$s.Name}}</a></td>
|
<tr><td><a id="{{$s.Anchor}}" href="{{$s.Name}}">{{$s.Name}}</a></td>
|
||||||
<td><a href="{{$s.Name}}?o=v">[v]</a> <a href="{{$s.Name}}?o=n">[n]</a> <a href="{{$s.Name}}?o=p">[p]</a> <a href="{{$s.Name}}?o=sp">[sp]</a> {{if ge $s.Status 0}}{{$s.Status}}%{{end}}</td></tr>
|
<td><a href="{{$s.Name}}?o=v">[v]</a> <a href="{{$s.Name}}?o=n">[n]</a> <a href="{{$s.Name}}?o=p">[p]</a> <a href="{{$s.Name}}?o=s">[s]</a> {{if ge $s.Status 0}}{{$s.Status}}%{{end}}</td></tr>
|
||||||
{{end -}}
|
{{end -}}
|
||||||
</table>
|
</table>
|
||||||
</article>
|
</article>
|
||||||
|
|
|
||||||
Loading…
Add table
Add a link
Reference in a new issue