f7db610836099859ec84e89c81727bd5f4ebe6bb
[moodle.git] / cache / stores / file / lib.php
1 <?php
2 // This file is part of Moodle - http://moodle.org/
3 //
4 // Moodle is free software: you can redistribute it and/or modify
5 // it under the terms of the GNU General Public License as published by
6 // the Free Software Foundation, either version 3 of the License, or
7 // (at your option) any later version.
8 //
9 // Moodle is distributed in the hope that it will be useful,
10 // but WITHOUT ANY WARRANTY; without even the implied warranty of
11 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12 // GNU General Public License for more details.
13 //
14 // You should have received a copy of the GNU General Public License
15 // along with Moodle.  If not, see <http://www.gnu.org/licenses/>.
17 /**
18  * The library file for the file cache store.
19  *
20  * This file is part of the file cache store, it contains the API for interacting with an instance of the store.
21  * This is used as a default cache store within the Cache API. It should never be deleted.
22  *
23  * @package    cachestore_file
24  * @category   cache
25  * @copyright  2012 Sam Hemelryk
26  * @license    http://www.gnu.org/copyleft/gpl.html GNU GPL v3 or later
27  */
29 /**
30  * The file store class.
31  *
32  * Configuration options
33  *      path:           string: path to the cache directory, if left empty one will be created in the cache directory
34  *      autocreate:     true, false
35  *      prescan:        true, false
36  *
37  * @copyright  2012 Sam Hemelryk
38  * @license    http://www.gnu.org/copyleft/gpl.html GNU GPL v3 or later
39  */
40 class cachestore_file extends cache_store implements cache_is_key_aware, cache_is_configurable, cache_is_searchable  {
42     /**
43      * The name of the store.
44      * @var string
45      */
46     protected $name;
48     /**
49      * The path used to store files for this store and the definition it was initialised with.
50      * @var string
51      */
52     protected $path = false;
54     /**
55      * The path in which definition specific sub directories will be created for caching.
56      * @var string
57      */
58     protected $filestorepath = false;
60     /**
61      * Set to true when a prescan has been performed.
62      * @var bool
63      */
64     protected $prescan = false;
66     /**
67      * Set to true if we should store files within a single directory.
68      * By default we use a nested structure in order to reduce the chance of conflicts and avoid any file system
69      * limitations such as maximum files per directory.
70      * @var bool
71      */
72     protected $singledirectory = false;
74     /**
75      * Set to true when the path should be automatically created if it does not yet exist.
76      * @var bool
77      */
78     protected $autocreate = false;
80     /**
81      * Set to true if a custom path is being used.
82      * @var bool
83      */
84     protected $custompath = false;
86     /**
87      * An array of keys we are sure about presently.
88      * @var array
89      */
90     protected $keys = array();
92     /**
93      * True when the store is ready to be initialised.
94      * @var bool
95      */
96     protected $isready = false;
98     /**
99      * The cache definition this instance has been initialised with.
100      * @var cache_definition
101      */
102     protected $definition;
104     /**
105      * A reference to the global $CFG object.
106      *
107      * You may be asking yourself why on earth this is here, but there is a good reason.
108      * By holding onto a reference of the $CFG object we can be absolutely sure that it won't be destroyed before
109      * we are done with it.
110      * This makes it possible to use a cache within a destructor method for the purposes of
111      * delayed writes. Like how the session mechanisms work.
112      *
113      * @var stdClass
114      */
115     private $cfg = null;
117     /**
118      * Constructs the store instance.
119      *
120      * Noting that this function is not an initialisation. It is used to prepare the store for use.
121      * The store will be initialised when required and will be provided with a cache_definition at that time.
122      *
123      * @param string $name
124      * @param array $configuration
125      */
126     public function __construct($name, array $configuration = array()) {
127         global $CFG;
129         if (isset($CFG)) {
130             // Hold onto a reference of the global $CFG object.
131             $this->cfg = $CFG;
132         }
134         $this->name = $name;
135         if (array_key_exists('path', $configuration) && $configuration['path'] !== '') {
136             $this->custompath = true;
137             $this->autocreate = !empty($configuration['autocreate']);
138             $path = (string)$configuration['path'];
139             if (!is_dir($path)) {
140                 if ($this->autocreate) {
141                     if (!make_writable_directory($path, false)) {
142                         $path = false;
143                         debugging('Error trying to autocreate file store path. '.$path, DEBUG_DEVELOPER);
144                     }
145                 } else {
146                     $path = false;
147                     debugging('The given file cache store path does not exist. '.$path, DEBUG_DEVELOPER);
148                 }
149             }
150             if ($path !== false && !is_writable($path)) {
151                 $path = false;
152                 debugging('The file cache store path is not writable for `'.$name.'`', DEBUG_DEVELOPER);
153             }
154         } else {
155             $path = make_cache_directory('cachestore_file/'.preg_replace('#[^a-zA-Z0-9\.\-_]+#', '', $name));
156         }
157         $this->isready = $path !== false;
158         $this->filestorepath = $path;
159         // This will be updated once the store has been initialised for a definition.
160         $this->path = $path;
162         // Check if we should prescan the directory.
163         if (array_key_exists('prescan', $configuration)) {
164             $this->prescan = (bool)$configuration['prescan'];
165         } else {
166             // Default is no, we should not prescan.
167             $this->prescan = false;
168         }
169         // Check if we should be storing in a single directory.
170         if (array_key_exists('singledirectory', $configuration)) {
171             $this->singledirectory = (bool)$configuration['singledirectory'];
172         } else {
173             // Default: No, we will use multiple directories.
174             $this->singledirectory = false;
175         }
176     }
178     /**
179      * Performs any necessary operation when the file store instance has been created.
180      */
181     public function instance_created() {
182         if ($this->isready && !$this->prescan) {
183             // It is supposed the store instance to expect an empty folder.
184             $this->purge_all_definitions();
185         }
186     }
188     /**
189      * Returns true if this store instance is ready to be used.
190      * @return bool
191      */
192     public function is_ready() {
193         return $this->isready;
194     }
196     /**
197      * Returns true once this instance has been initialised.
198      *
199      * @return bool
200      */
201     public function is_initialised() {
202         return true;
203     }
205     /**
206      * Returns the supported features as a combined int.
207      *
208      * @param array $configuration
209      * @return int
210      */
211     public static function get_supported_features(array $configuration = array()) {
212         $supported = self::SUPPORTS_DATA_GUARANTEE +
213                      self::SUPPORTS_NATIVE_TTL +
214                      self::IS_SEARCHABLE;
215         return $supported;
216     }
218     /**
219      * Returns false as this store does not support multiple identifiers.
220      * (This optional function is a performance optimisation; it must be
221      * consistent with the value from get_supported_features.)
222      *
223      * @return bool False
224      */
225     public function supports_multiple_identifiers() {
226         return false;
227     }
229     /**
230      * Returns the supported modes as a combined int.
231      *
232      * @param array $configuration
233      * @return int
234      */
235     public static function get_supported_modes(array $configuration = array()) {
236         return self::MODE_APPLICATION + self::MODE_SESSION;
237     }
239     /**
240      * Returns true if the store requirements are met.
241      *
242      * @return bool
243      */
244     public static function are_requirements_met() {
245         return true;
246     }
248     /**
249      * Returns true if the given mode is supported by this store.
250      *
251      * @param int $mode One of cache_store::MODE_*
252      * @return bool
253      */
254     public static function is_supported_mode($mode) {
255         return ($mode === self::MODE_APPLICATION || $mode === self::MODE_SESSION);
256     }
258     /**
259      * Initialises the cache.
260      *
261      * Once this has been done the cache is all set to be used.
262      *
263      * @param cache_definition $definition
264      */
265     public function initialise(cache_definition $definition) {
266         $this->definition = $definition;
267         $hash = preg_replace('#[^a-zA-Z0-9]+#', '_', $this->definition->get_id());
268         $this->path = $this->filestorepath.'/'.$hash;
269         make_writable_directory($this->path, false);
270         if ($this->prescan && $definition->get_mode() !== self::MODE_REQUEST) {
271             $this->prescan = false;
272         }
273         if ($this->prescan) {
274             $this->prescan_keys();
275         }
276     }
278     /**
279      * Pre-scan the cache to see which keys are present.
280      */
281     protected function prescan_keys() {
282         $files = glob($this->glob_keys_pattern(), GLOB_MARK | GLOB_NOSORT);
283         if (is_array($files)) {
284             foreach ($files as $filename) {
285                 $this->keys[basename($filename)] = filemtime($filename);
286             }
287         }
288     }
290     /**
291      * Gets a pattern suitable for use with glob to find all keys in the cache.
292      *
293      * @param string $prefix A prefix to use.
294      * @return string The pattern.
295      */
296     protected function glob_keys_pattern($prefix = '') {
297         if ($this->singledirectory) {
298             return $this->path . '/'.$prefix.'*.cache';
299         } else {
300             return $this->path . '/*/'.$prefix.'*.cache';
301         }
302     }
304     /**
305      * Returns the file path to use for the given key.
306      *
307      * @param string $key The key to generate a file path for.
308      * @param bool $create If set to the true the directory structure the key requires will be created.
309      * @return string The full path to the file that stores a particular cache key.
310      */
311     protected function file_path_for_key($key, $create = false) {
312         if ($this->singledirectory) {
313             // Its a single directory, easy, just the store instances path + the file name.
314             return $this->path . '/' . $key . '.cache';
315         } else {
316             // We are using a single subdirectory to achieve 1 level.
317            // We suffix the subdir so it does not clash with any windows
318            // reserved filenames like 'con'.
319             $subdir = substr($key, 0, 3) . '-cache';
320             $dir = $this->path . '/' . $subdir;
321             if ($create) {
322                 // Create the directory. This function does it recursivily!
323                 make_writable_directory($dir, false);
324             }
325             return $dir . '/' . $key . '.cache';
326         }
327     }
329     /**
330      * Retrieves an item from the cache store given its key.
331      *
332      * @param string $key The key to retrieve
333      * @return mixed The data that was associated with the key, or false if the key did not exist.
334      */
335     public function get($key) {
336         $filename = $key.'.cache';
337         $file = $this->file_path_for_key($key);
338         $ttl = $this->definition->get_ttl();
339         if ($ttl) {
340             $maxtime = cache::now() - $ttl;
341         }
342         $readfile = false;
343         if ($this->prescan && array_key_exists($key, $this->keys)) {
344             if (!$ttl || $this->keys[$filename] >= $maxtime && file_exists($file)) {
345                 $readfile = true;
346             } else {
347                 $this->delete($key);
348             }
349         } else if (file_exists($file) && (!$ttl || filemtime($file) >= $maxtime)) {
350             $readfile = true;
351         }
352         if (!$readfile) {
353             return false;
354         }
355         // Open ensuring the file for reading in binary format.
356         if (!$handle = fopen($file, 'rb')) {
357             return false;
358         }
359         // Lock it up!
360         // We don't care if this succeeds or not, on some systems it will, on some it won't, meah either way.
361         flock($handle, LOCK_SH);
362         $data = '';
363         // Read the data in 1Mb chunks. Small caches will not loop more than once.  We don't use filesize as it may
364         // be cached with a different value than what we need to read from the file.
365         do {
366             $data .= fread($handle, 1048576);
367         } while (!feof($handle));
368         // Unlock it.
369         flock($handle, LOCK_UN);
370         // Return it unserialised.
371         return $this->prep_data_after_read($data);
372     }
374     /**
375      * Retrieves several items from the cache store in a single transaction.
376      *
377      * If not all of the items are available in the cache then the data value for those that are missing will be set to false.
378      *
379      * @param array $keys The array of keys to retrieve
380      * @return array An array of items from the cache. There will be an item for each key, those that were not in the store will
381      *      be set to false.
382      */
383     public function get_many($keys) {
384         $result = array();
385         foreach ($keys as $key) {
386             $result[$key] = $this->get($key);
387         }
388         return $result;
389     }
391     /**
392      * Deletes an item from the cache store.
393      *
394      * @param string $key The key to delete.
395      * @return bool Returns true if the operation was a success, false otherwise.
396      */
397     public function delete($key) {
398         $filename = $key.'.cache';
399         $file = $this->file_path_for_key($key);
400         if (@unlink($file)) {
401             unset($this->keys[$filename]);
402             return true;
403         }
405         return false;
406     }
408     /**
409      * Deletes several keys from the cache in a single action.
410      *
411      * @param array $keys The keys to delete
412      * @return int The number of items successfully deleted.
413      */
414     public function delete_many(array $keys) {
415         $count = 0;
416         foreach ($keys as $key) {
417             if ($this->delete($key)) {
418                 $count++;
419             }
420         }
421         return $count;
422     }
424     /**
425      * Sets an item in the cache given its key and data value.
426      *
427      * @param string $key The key to use.
428      * @param mixed $data The data to set.
429      * @return bool True if the operation was a success false otherwise.
430      */
431     public function set($key, $data) {
432         $this->ensure_path_exists();
433         $filename = $key.'.cache';
434         $file = $this->file_path_for_key($key, true);
435         $result = $this->write_file($file, $this->prep_data_before_save($data));
436         if (!$result) {
437             // Couldn't write the file.
438             return false;
439         }
440         // Record the key if required.
441         if ($this->prescan) {
442             $this->keys[$filename] = cache::now() + 1;
443         }
444         // Return true.. it all worked **miracles**.
445         return true;
446     }
448     /**
449      * Prepares data to be stored in a file.
450      *
451      * @param mixed $data
452      * @return string
453      */
454     protected function prep_data_before_save($data) {
455         return serialize($data);
456     }
458     /**
459      * Prepares the data it has been read from the cache. Undoing what was done in prep_data_before_save.
460      *
461      * @param string $data
462      * @return mixed
463      * @throws coding_exception
464      */
465     protected function prep_data_after_read($data) {
466         $result = @unserialize($data);
467         if ($result === false) {
468             throw new coding_exception('Failed to unserialise data from file. Either failed to read, or failed to write.');
469         }
470         return $result;
471     }
473     /**
474      * Sets many items in the cache in a single transaction.
475      *
476      * @param array $keyvaluearray An array of key value pairs. Each item in the array will be an associative array with two
477      *      keys, 'key' and 'value'.
478      * @return int The number of items successfully set. It is up to the developer to check this matches the number of items
479      *      sent ... if they care that is.
480      */
481     public function set_many(array $keyvaluearray) {
482         $count = 0;
483         foreach ($keyvaluearray as $pair) {
484             if ($this->set($pair['key'], $pair['value'])) {
485                 $count++;
486             }
487         }
488         return $count;
489     }
491     /**
492      * Checks if the store has a record for the given key and returns true if so.
493      *
494      * @param string $key
495      * @return bool
496      */
497     public function has($key) {
498         $filename = $key.'.cache';
499         $maxtime = cache::now() - $this->definition->get_ttl();
500         if ($this->prescan) {
501             return array_key_exists($filename, $this->keys) && $this->keys[$filename] >= $maxtime;
502         }
503         $file = $this->file_path_for_key($key);
504         return (file_exists($file) && ($this->definition->get_ttl() == 0 || filemtime($file) >= $maxtime));
505     }
507     /**
508      * Returns true if the store contains records for all of the given keys.
509      *
510      * @param array $keys
511      * @return bool
512      */
513     public function has_all(array $keys) {
514         foreach ($keys as $key) {
515             if (!$this->has($key)) {
516                 return false;
517             }
518         }
519         return true;
520     }
522     /**
523      * Returns true if the store contains records for any of the given keys.
524      *
525      * @param array $keys
526      * @return bool
527      */
528     public function has_any(array $keys) {
529         foreach ($keys as $key) {
530             if ($this->has($key)) {
531                 return true;
532             }
533         }
534         return false;
535     }
537     /**
538      * Purges the cache definition deleting all the items within it.
539      *
540      * @return boolean True on success. False otherwise.
541      */
542     public function purge() {
543         if ($this->isready) {
544             $files = glob($this->glob_keys_pattern(), GLOB_MARK | GLOB_NOSORT);
545             if (is_array($files)) {
546                 foreach ($files as $filename) {
547                     @unlink($filename);
548                 }
549             }
550             $this->keys = array();
551         }
552         return true;
553     }
555     /**
556      * Purges all the cache definitions deleting all items within them.
557      *
558      * @return boolean True on success. False otherwise.
559      */
560     protected function purge_all_definitions() {
561         // Warning: limit the deletion to what file store is actually able
562         // to create using the internal {@link purge()} providing the
563         // {@link $path} with a wildcard to perform a purge action over all the definitions.
564         $currpath = $this->path;
565         $this->path = $this->filestorepath.'/*';
566         $result = $this->purge();
567         $this->path = $currpath;
568         return $result;
569     }
571     /**
572      * Given the data from the add instance form this function creates a configuration array.
573      *
574      * @param stdClass $data
575      * @return array
576      */
577     public static function config_get_configuration_array($data) {
578         $config = array();
580         if (isset($data->path)) {
581             $config['path'] = $data->path;
582         }
583         if (isset($data->autocreate)) {
584             $config['autocreate'] = $data->autocreate;
585         }
586         if (isset($data->singledirectory)) {
587             $config['singledirectory'] = $data->singledirectory;
588         }
589         if (isset($data->prescan)) {
590             $config['prescan'] = $data->prescan;
591         }
593         return $config;
594     }
596     /**
597      * Allows the cache store to set its data against the edit form before it is shown to the user.
598      *
599      * @param moodleform $editform
600      * @param array $config
601      */
602     public static function config_set_edit_form_data(moodleform $editform, array $config) {
603         $data = array();
604         if (!empty($config['path'])) {
605             $data['path'] = $config['path'];
606         }
607         if (isset($config['autocreate'])) {
608             $data['autocreate'] = (bool)$config['autocreate'];
609         }
610         if (isset($config['singledirectory'])) {
611             $data['singledirectory'] = (bool)$config['singledirectory'];
612         }
613         if (isset($config['prescan'])) {
614             $data['prescan'] = (bool)$config['prescan'];
615         }
616         $editform->set_data($data);
617     }
619     /**
620      * Checks to make sure that the path for the file cache exists.
621      *
622      * @return bool
623      * @throws coding_exception
624      */
625     protected function ensure_path_exists() {
626         global $CFG;
627         if (!is_writable($this->path)) {
628             if ($this->custompath && !$this->autocreate) {
629                 throw new coding_exception('File store path does not exist. It must exist and be writable by the web server.');
630             }
631             $createdcfg = false;
632             if (!isset($CFG)) {
633                 // This can only happen during destruction of objects.
634                 // A cache is being used within a destructor, php is ending a request and $CFG has
635                 // already being cleaned up.
636                 // Rebuild $CFG with directory permissions just to complete this write.
637                 $CFG = $this->cfg;
638                 $createdcfg = true;
639             }
640             if (!make_writable_directory($this->path, false)) {
641                 throw new coding_exception('File store path does not exist and can not be created.');
642             }
643             if ($createdcfg) {
644                 // We re-created it so we'll clean it up.
645                 unset($CFG);
646             }
647         }
648         return true;
649     }
651     /**
652      * Performs any necessary clean up when the file store instance is being deleted.
653      *
654      * 1. Purges the cache directory.
655      * 2. Deletes the directory we created for the given definition.
656      */
657     public function instance_deleted() {
658         $this->purge_all_definitions();
659         @rmdir($this->filestorepath);
660     }
662     /**
663      * Generates an instance of the cache store that can be used for testing.
664      *
665      * Returns an instance of the cache store, or false if one cannot be created.
666      *
667      * @param cache_definition $definition
668      * @return cachestore_file
669      */
670     public static function initialise_test_instance(cache_definition $definition) {
671         $name = 'File test';
672         $path = make_cache_directory('cachestore_file_test');
673         $cache = new cachestore_file($name, array('path' => $path));
674         $cache->initialise($definition);
675         return $cache;
676     }
678     /**
679      * Writes your madness to a file.
680      *
681      * There are several things going on in this function to try to ensure what we don't end up with partial writes etc.
682      *   1. Files for writing are opened with the mode xb, the file must be created and can not already exist.
683      *   2. Renaming, data is written to a temporary file, where it can be verified using md5 and is then renamed.
684      *
685      * @param string $file Absolute file path
686      * @param string $content The content to write.
687      * @return bool
688      */
689     protected function write_file($file, $content) {
690         // Generate a temp file that is going to be unique. We'll rename it at the end to the desired file name.
691         // in this way we avoid partial writes.
692         $path = dirname($file);
693         while (true) {
694             $tempfile = $path.'/'.uniqid(sesskey().'.', true) . '.temp';
695             if (!file_exists($tempfile)) {
696                 break;
697             }
698         }
700         // Open the file with mode=x. This acts to create and open the file for writing only.
701         // If the file already exists this will return false.
702         // We also force binary.
703         $handle = @fopen($tempfile, 'xb+');
704         if ($handle === false) {
705             // File already exists... lock already exists, return false.
706             return false;
707         }
708         fwrite($handle, $content);
709         fflush($handle);
710         // Close the handle, we're done.
711         fclose($handle);
713         if (md5_file($tempfile) !== md5($content)) {
714             // The md5 of the content of the file must match the md5 of the content given to be written.
715             @unlink($tempfile);
716             return false;
717         }
719         // Finally rename the temp file to the desired file, returning the true|false result.
720         $result = rename($tempfile, $file);
721         @chmod($file, $this->cfg->filepermissions);
722         if (!$result) {
723             // Failed to rename, don't leave files lying around.
724             @unlink($tempfile);
725         }
726         return $result;
727     }
729     /**
730      * Returns the name of this instance.
731      * @return string
732      */
733     public function my_name() {
734         return $this->name;
735     }
737     /**
738      * Finds all of the keys being used by this cache store instance.
739      *
740      * @return array
741      */
742     public function find_all() {
743         $this->ensure_path_exists();
744         $files = glob($this->glob_keys_pattern(), GLOB_MARK | GLOB_NOSORT);
745         $return = array();
746         if ($files === false) {
747             return $return;
748         }
749         foreach ($files as $file) {
750             $return[] = substr(basename($file), 0, -6);
751         }
752         return $return;
753     }
755     /**
756      * Finds all of the keys whose keys start with the given prefix.
757      *
758      * @param string $prefix
759      */
760     public function find_by_prefix($prefix) {
761         $this->ensure_path_exists();
762         $prefix = preg_replace('#(\*|\?|\[)#', '[$1]', $prefix);
763         $files = glob($this->glob_keys_pattern($prefix), GLOB_MARK | GLOB_NOSORT);
764         $return = array();
765         if ($files === false) {
766             return $return;
767         }
768         foreach ($files as $file) {
769             // Trim off ".cache" from the end.
770             $return[] = substr(basename($file), 0, -6);
771         }
772         return $return;
773     }