MDL-34612 Restore: Gracefully handle empty file contenthash while restoring
[moodle.git] / backup / util / dbops / restore_dbops.class.php
1 <?php
3 // This file is part of Moodle - http://moodle.org/
4 //
5 // Moodle is free software: you can redistribute it and/or modify
6 // it under the terms of the GNU General Public License as published by
7 // the Free Software Foundation, either version 3 of the License, or
8 // (at your option) any later version.
9 //
10 // Moodle is distributed in the hope that it will be useful,
11 // but WITHOUT ANY WARRANTY; without even the implied warranty of
12 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13 // GNU General Public License for more details.
14 //
15 // You should have received a copy of the GNU General Public License
16 // along with Moodle.  If not, see <http://www.gnu.org/licenses/>.
18 /**
19  * @package    moodlecore
20  * @subpackage backup-dbops
21  * @copyright  2010 onwards Eloy Lafuente (stronk7) {@link http://stronk7.com}
22  * @license    http://www.gnu.org/copyleft/gpl.html GNU GPL v3 or later
23  */
25 /**
26  * Base abstract class for all the helper classes providing DB operations
27  *
28  * TODO: Finish phpdocs
29  */
30 abstract class restore_dbops {
31     /**
32      * Keep cache of backup records.
33      * @var array
34      * @todo MDL-25290 static should be replaced with MUC code.
35      */
36     private static $backupidscache = array();
37     /**
38      * Keep track of backup ids which are cached.
39      * @var array
40      * @todo MDL-25290 static should be replaced with MUC code.
41      */
42     private static $backupidsexist = array();
43     /**
44      * Count is expensive, so manually keeping track of
45      * backupidscache, to avoid memory issues.
46      * @var int
47      * @todo MDL-25290 static should be replaced with MUC code.
48      */
49     private static $backupidscachesize = 2048;
50     /**
51      * Count is expensive, so manually keeping track of
52      * backupidsexist, to avoid memory issues.
53      * @var int
54      * @todo MDL-25290 static should be replaced with MUC code.
55      */
56     private static $backupidsexistsize = 10240;
57     /**
58      * Slice backupids cache to add more data.
59      * @var int
60      * @todo MDL-25290 static should be replaced with MUC code.
61      */
62     private static $backupidsslice = 512;
64     /**
65      * Return one array containing all the tasks that have been included
66      * in the restore process. Note that these tasks aren't built (they
67      * haven't steps nor ids data available)
68      */
69     public static function get_included_tasks($restoreid) {
70         $rc = restore_controller_dbops::load_controller($restoreid);
71         $tasks = $rc->get_plan()->get_tasks();
72         $includedtasks = array();
73         foreach ($tasks as $key => $task) {
74             // Calculate if the task is being included
75             $included = false;
76             // blocks, based in blocks setting and parent activity/course
77             if ($task instanceof restore_block_task) {
78                 if (!$task->get_setting_value('blocks')) { // Blocks not included, continue
79                     continue;
80                 }
81                 $parent = basename(dirname(dirname($task->get_taskbasepath())));
82                 if ($parent == 'course') { // Parent is course, always included if present
83                     $included = true;
85                 } else { // Look for activity_included setting
86                     $included = $task->get_setting_value($parent . '_included');
87                 }
89             // ativities, based on included setting
90             } else if ($task instanceof restore_activity_task) {
91                 $included = $task->get_setting_value('included');
93             // sections, based on included setting
94             } else if ($task instanceof restore_section_task) {
95                 $included = $task->get_setting_value('included');
97             // course always included if present
98             } else if ($task instanceof restore_course_task) {
99                 $included = true;
100             }
102             // If included, add it
103             if ($included) {
104                 $includedtasks[] = $task;
105             }
106         }
107         return $includedtasks;
108     }
110     /**
111      * Load one inforef.xml file to backup_ids table for future reference
112      *
113      * @param string $restoreid Restore id
114      * @param string $inforeffile File path
115      * @param core_backup_progress $progress Progress tracker
116      */
117     public static function load_inforef_to_tempids($restoreid, $inforeffile,
118             core_backup_progress $progress = null) {
120         if (!file_exists($inforeffile)) { // Shouldn't happen ever, but...
121             throw new backup_helper_exception('missing_inforef_xml_file', $inforeffile);
122         }
124         // Set up progress tracking (indeterminate).
125         if (!$progress) {
126             $progress = new core_backup_null_progress();
127         }
128         $progress->start_progress('Loading inforef.xml file');
130         // Let's parse, custom processor will do its work, sending info to DB
131         $xmlparser = new progressive_parser();
132         $xmlparser->set_file($inforeffile);
133         $xmlprocessor = new restore_inforef_parser_processor($restoreid);
134         $xmlparser->set_processor($xmlprocessor);
135         $xmlparser->set_progress($progress);
136         $xmlparser->process();
138         // Finish progress
139         $progress->end_progress();
140     }
142     /**
143      * Load the needed role.xml file to backup_ids table for future reference
144      */
145     public static function load_roles_to_tempids($restoreid, $rolesfile) {
147         if (!file_exists($rolesfile)) { // Shouldn't happen ever, but...
148             throw new backup_helper_exception('missing_roles_xml_file', $rolesfile);
149         }
150         // Let's parse, custom processor will do its work, sending info to DB
151         $xmlparser = new progressive_parser();
152         $xmlparser->set_file($rolesfile);
153         $xmlprocessor = new restore_roles_parser_processor($restoreid);
154         $xmlparser->set_processor($xmlprocessor);
155         $xmlparser->process();
156     }
158     /**
159      * Precheck the loaded roles, return empty array if everything is ok, and
160      * array with 'errors', 'warnings' elements (suitable to be used by restore_prechecks)
161      * with any problem found. At the same time, store all the mapping into backup_ids_temp
162      * and also put the information into $rolemappings (controller->info), so it can be reworked later by
163      * post-precheck stages while at the same time accept modified info in the same object coming from UI
164      */
165     public static function precheck_included_roles($restoreid, $courseid, $userid, $samesite, $rolemappings) {
166         global $DB;
168         $problems = array(); // To store warnings/errors
170         // Get loaded roles from backup_ids
171         $rs = $DB->get_recordset('backup_ids_temp', array('backupid' => $restoreid, 'itemname' => 'role'), '', 'itemid, info');
172         foreach ($rs as $recrole) {
173             // If the rolemappings->modified flag is set, that means that we are coming from
174             // manually modified mappings (by UI), so accept those mappings an put them to backup_ids
175             if ($rolemappings->modified) {
176                 $target = $rolemappings->mappings[$recrole->itemid]->targetroleid;
177                 self::set_backup_ids_record($restoreid, 'role', $recrole->itemid, $target);
179             // Else, we haven't any info coming from UI, let's calculate the mappings, matching
180             // in multiple ways and checking permissions. Note mapping to 0 means "skip"
181             } else {
182                 $role = (object)backup_controller_dbops::decode_backup_temp_info($recrole->info);
183                 $match = self::get_best_assignable_role($role, $courseid, $userid, $samesite);
184                 // Send match to backup_ids
185                 self::set_backup_ids_record($restoreid, 'role', $recrole->itemid, $match);
186                 // Build the rolemappings element for controller
187                 unset($role->id);
188                 unset($role->nameincourse);
189                 $role->targetroleid = $match;
190                 $rolemappings->mappings[$recrole->itemid] = $role;
191                 // Prepare warning if no match found
192                 if (!$match) {
193                     $problems['warnings'][] = get_string('cannotfindassignablerole', 'backup', $role->name);
194                 }
195             }
196         }
197         $rs->close();
198         return $problems;
199     }
201     /**
202      * Return cached backup id's
203      *
204      * @param int $restoreid id of backup
205      * @param string $itemname name of the item
206      * @param int $itemid id of item
207      * @return array backup id's
208      * @todo MDL-25290 replace static backupids* with MUC code
209      */
210     protected static function get_backup_ids_cached($restoreid, $itemname, $itemid) {
211         global $DB;
213         $key = "$itemid $itemname $restoreid";
215         // If record exists in cache then return.
216         if (isset(self::$backupidsexist[$key]) && isset(self::$backupidscache[$key])) {
217             // Return a copy of cached data, to avoid any alterations in cached data.
218             return clone self::$backupidscache[$key];
219         }
221         // Clean cache, if it's full.
222         if (self::$backupidscachesize <= 0) {
223             // Remove some records, to keep memory in limit.
224             self::$backupidscache = array_slice(self::$backupidscache, self::$backupidsslice, null, true);
225             self::$backupidscachesize = self::$backupidscachesize + self::$backupidsslice;
226         }
227         if (self::$backupidsexistsize <= 0) {
228             self::$backupidsexist = array_slice(self::$backupidsexist, self::$backupidsslice, null, true);
229             self::$backupidsexistsize = self::$backupidsexistsize + self::$backupidsslice;
230         }
232         // Retrive record from database.
233         $record = array(
234             'backupid' => $restoreid,
235             'itemname' => $itemname,
236             'itemid'   => $itemid
237         );
238         if ($dbrec = $DB->get_record('backup_ids_temp', $record)) {
239             self::$backupidsexist[$key] = $dbrec->id;
240             self::$backupidscache[$key] = $dbrec;
241             self::$backupidscachesize--;
242             self::$backupidsexistsize--;
243             return $dbrec;
244         } else {
245             return false;
246         }
247     }
249     /**
250      * Cache backup ids'
251      *
252      * @param int $restoreid id of backup
253      * @param string $itemname name of the item
254      * @param int $itemid id of item
255      * @param array $extrarecord extra record which needs to be updated
256      * @return void
257      * @todo MDL-25290 replace static BACKUP_IDS_* with MUC code
258      */
259     protected static function set_backup_ids_cached($restoreid, $itemname, $itemid, $extrarecord) {
260         global $DB;
262         $key = "$itemid $itemname $restoreid";
264         $record = array(
265             'backupid' => $restoreid,
266             'itemname' => $itemname,
267             'itemid'   => $itemid,
268         );
270         // If record is not cached then add one.
271         if (!isset(self::$backupidsexist[$key])) {
272             // If we have this record in db, then just update this.
273             if ($existingrecord = $DB->get_record('backup_ids_temp', $record)) {
274                 self::$backupidsexist[$key] = $existingrecord->id;
275                 self::$backupidsexistsize--;
276                 self::update_backup_cached_record($record, $extrarecord, $key, $existingrecord);
277             } else {
278                 // Add new record to cache and db.
279                 $recorddefault = array (
280                     'newitemid' => 0,
281                     'parentitemid' => null,
282                     'info' => null);
283                 $record = array_merge($record, $recorddefault, $extrarecord);
284                 $record['id'] = $DB->insert_record('backup_ids_temp', $record);
285                 self::$backupidsexist[$key] = $record['id'];
286                 self::$backupidsexistsize--;
287                 if (self::$backupidscachesize > 0) {
288                     // Cache new records if we haven't got many yet.
289                     self::$backupidscache[$key] = (object) $record;
290                     self::$backupidscachesize--;
291                 }
292             }
293         } else {
294             self::update_backup_cached_record($record, $extrarecord, $key);
295         }
296     }
298     /**
299      * Updates existing backup record
300      *
301      * @param array $record record which needs to be updated
302      * @param array $extrarecord extra record which needs to be updated
303      * @param string $key unique key which is used to identify cached record
304      * @param stdClass $existingrecord (optional) existing record
305      */
306     protected static function update_backup_cached_record($record, $extrarecord, $key, $existingrecord = null) {
307         global $DB;
308         // Update only if extrarecord is not empty.
309         if (!empty($extrarecord)) {
310             $extrarecord['id'] = self::$backupidsexist[$key];
311             $DB->update_record('backup_ids_temp', $extrarecord);
312             // Update existing cache or add new record to cache.
313             if (isset(self::$backupidscache[$key])) {
314                 $record = array_merge((array)self::$backupidscache[$key], $extrarecord);
315                 self::$backupidscache[$key] = (object) $record;
316             } else if (self::$backupidscachesize > 0) {
317                 if ($existingrecord) {
318                     self::$backupidscache[$key] = $existingrecord;
319                 } else {
320                     // Retrive record from database and cache updated records.
321                     self::$backupidscache[$key] = $DB->get_record('backup_ids_temp', $record);
322                 }
323                 $record = array_merge((array)self::$backupidscache[$key], $extrarecord);
324                 self::$backupidscache[$key] = (object) $record;
325                 self::$backupidscachesize--;
326             }
327         }
328     }
330     /**
331      * Reset the ids caches completely
332      *
333      * Any destructive operation (partial delete, truncate, drop or recreate) performed
334      * with the backup_ids table must cause the backup_ids caches to be
335      * invalidated by calling this method. See MDL-33630.
336      *
337      * Note that right now, the only operation of that type is the recreation
338      * (drop & restore) of the table that may happen once the prechecks have ended. All
339      * the rest of operations are always routed via {@link set_backup_ids_record()}, 1 by 1,
340      * keeping the caches on sync.
341      *
342      * @todo MDL-25290 static should be replaced with MUC code.
343      */
344     public static function reset_backup_ids_cached() {
345         // Reset the ids cache.
346         $cachetoadd = count(self::$backupidscache);
347         self::$backupidscache = array();
348         self::$backupidscachesize = self::$backupidscachesize + $cachetoadd;
349         // Reset the exists cache.
350         $existstoadd = count(self::$backupidsexist);
351         self::$backupidsexist = array();
352         self::$backupidsexistsize = self::$backupidsexistsize + $existstoadd;
353     }
355     /**
356      * Given one role, as loaded from XML, perform the best possible matching against the assignable
357      * roles, using different fallback alternatives (shortname, archetype, editingteacher => teacher, defaultcourseroleid)
358      * returning the id of the best matching role or 0 if no match is found
359      */
360     protected static function get_best_assignable_role($role, $courseid, $userid, $samesite) {
361         global $CFG, $DB;
363         // Gather various information about roles
364         $coursectx = context_course::instance($courseid);
365         $assignablerolesshortname = get_assignable_roles($coursectx, ROLENAME_SHORT, false, $userid);
367         // Note: under 1.9 we had one function restore_samerole() that performed one complete
368         // matching of roles (all caps) and if match was found the mapping was availabe bypassing
369         // any assignable_roles() security. IMO that was wrong and we must not allow such
370         // mappings anymore. So we have left that matching strategy out in 2.0
372         // Empty assignable roles, mean no match possible
373         if (empty($assignablerolesshortname)) {
374             return 0;
375         }
377         // Match by shortname
378         if ($match = array_search($role->shortname, $assignablerolesshortname)) {
379             return $match;
380         }
382         // Match by archetype
383         list($in_sql, $in_params) = $DB->get_in_or_equal(array_keys($assignablerolesshortname));
384         $params = array_merge(array($role->archetype), $in_params);
385         if ($rec = $DB->get_record_select('role', "archetype = ? AND id $in_sql", $params, 'id', IGNORE_MULTIPLE)) {
386             return $rec->id;
387         }
389         // Match editingteacher to teacher (happens a lot, from 1.9)
390         if ($role->shortname == 'editingteacher' && in_array('teacher', $assignablerolesshortname)) {
391             return array_search('teacher', $assignablerolesshortname);
392         }
394         // No match, return 0
395         return 0;
396     }
399     /**
400      * Process the loaded roles, looking for their best mapping or skipping
401      * Any error will cause exception. Note this is one wrapper over
402      * precheck_included_roles, that contains all the logic, but returns
403      * errors/warnings instead and is executed as part of the restore prechecks
404      */
405      public static function process_included_roles($restoreid, $courseid, $userid, $samesite, $rolemappings) {
406         global $DB;
408         // Just let precheck_included_roles() to do all the hard work
409         $problems = self::precheck_included_roles($restoreid, $courseid, $userid, $samesite, $rolemappings);
411         // With problems of type error, throw exception, shouldn't happen if prechecks executed
412         if (array_key_exists('errors', $problems)) {
413             throw new restore_dbops_exception('restore_problems_processing_roles', null, implode(', ', $problems['errors']));
414         }
415     }
417     /**
418      * Load the needed users.xml file to backup_ids table for future reference
419      *
420      * @param string $restoreid Restore id
421      * @param string $usersfile File path
422      * @param core_backup_progress $progress Progress tracker
423      */
424     public static function load_users_to_tempids($restoreid, $usersfile,
425             core_backup_progress $progress = null) {
427         if (!file_exists($usersfile)) { // Shouldn't happen ever, but...
428             throw new backup_helper_exception('missing_users_xml_file', $usersfile);
429         }
431         // Set up progress tracking (indeterminate).
432         if (!$progress) {
433             $progress = new core_backup_null_progress();
434         }
435         $progress->start_progress('Loading users into temporary table');
437         // Let's parse, custom processor will do its work, sending info to DB
438         $xmlparser = new progressive_parser();
439         $xmlparser->set_file($usersfile);
440         $xmlprocessor = new restore_users_parser_processor($restoreid);
441         $xmlparser->set_processor($xmlprocessor);
442         $xmlparser->set_progress($progress);
443         $xmlparser->process();
445         // Finish progress.
446         $progress->end_progress();
447     }
449     /**
450      * Load the needed questions.xml file to backup_ids table for future reference
451      */
452     public static function load_categories_and_questions_to_tempids($restoreid, $questionsfile) {
454         if (!file_exists($questionsfile)) { // Shouldn't happen ever, but...
455             throw new backup_helper_exception('missing_questions_xml_file', $questionsfile);
456         }
457         // Let's parse, custom processor will do its work, sending info to DB
458         $xmlparser = new progressive_parser();
459         $xmlparser->set_file($questionsfile);
460         $xmlprocessor = new restore_questions_parser_processor($restoreid);
461         $xmlparser->set_processor($xmlprocessor);
462         $xmlparser->process();
463     }
465     /**
466      * Check all the included categories and questions, deciding the action to perform
467      * for each one (mapping / creation) and returning one array of problems in case
468      * something is wrong.
469      *
470      * There are some basic rules that the method below will always try to enforce:
471      *
472      * Rule1: Targets will be, always, calculated for *whole* question banks (a.k.a. contexid source),
473      *     so, given 2 question categories belonging to the same bank, their target bank will be
474      *     always the same. If not, we can be incurring into "fragmentation", leading to random/cloze
475      *     problems (qtypes having "child" questions).
476      *
477      * Rule2: The 'moodle/question:managecategory' and 'moodle/question:add' capabilities will be
478      *     checked before creating any category/question respectively and, if the cap is not allowed
479      *     into upper contexts (system, coursecat)) but in lower ones (course), the *whole* question bank
480      *     will be created there.
481      *
482      * Rule3: Coursecat question banks not existing in the target site will be created as course
483      *     (lower ctx) question banks, never as "guessed" coursecat question banks base on depth or so.
484      *
485      * Rule4: System question banks will be created at system context if user has perms to do so. Else they
486      *     will created as course (lower ctx) question banks (similary to rule3). In other words, course ctx
487      *     if always a fallback for system and coursecat question banks.
488      *
489      * Also, there are some notes to clarify the scope of this method:
490      *
491      * Note1: This method won't create any question category nor question at all. It simply will calculate
492      *     which actions (create/map) must be performed for each element and where, validating that all those
493      *     actions are doable by the user executing the restore operation. Any problem found will be
494      *     returned in the problems array, causing the restore process to stop with error.
495      *
496      * Note2: To decide if one question bank (all its question categories and questions) is going to be remapped,
497      *     then all the categories and questions must exist in the same target bank. If able to do so, missing
498      *     qcats and qs will be created (rule2). But if, at the end, something is missing, the whole question bank
499      *     will be recreated at course ctx (rule1), no matter if that duplicates some categories/questions.
500      *
501      * Note3: We'll be using the newitemid column in the temp_ids table to store the action to be performed
502      *     with each question category and question. newitemid = 0 means the qcat/q needs to be created and
503      *     any other value means the qcat/q is mapped. Also, for qcats, parentitemid will contain the target
504      *     context where the categories have to be created (but for module contexts where we'll keep the old
505      *     one until the activity is created)
506      *
507      * Note4: All these "actions" will be "executed" later by {@link restore_create_categories_and_questions}
508      */
509     public static function precheck_categories_and_questions($restoreid, $courseid, $userid, $samesite) {
511         $problems = array();
513         // TODO: Check all qs, looking their qtypes are restorable
515         // Precheck all qcats and qs looking for target contexts / warnings / errors
516         list($syserr, $syswarn) = self::prechek_precheck_qbanks_by_level($restoreid, $courseid, $userid, $samesite, CONTEXT_SYSTEM);
517         list($caterr, $catwarn) = self::prechek_precheck_qbanks_by_level($restoreid, $courseid, $userid, $samesite, CONTEXT_COURSECAT);
518         list($couerr, $couwarn) = self::prechek_precheck_qbanks_by_level($restoreid, $courseid, $userid, $samesite, CONTEXT_COURSE);
519         list($moderr, $modwarn) = self::prechek_precheck_qbanks_by_level($restoreid, $courseid, $userid, $samesite, CONTEXT_MODULE);
521         // Acummulate and handle errors and warnings
522         $errors   = array_merge($syserr, $caterr, $couerr, $moderr);
523         $warnings = array_merge($syswarn, $catwarn, $couwarn, $modwarn);
524         if (!empty($errors)) {
525             $problems['errors'] = $errors;
526         }
527         if (!empty($warnings)) {
528             $problems['warnings'] = $warnings;
529         }
530         return $problems;
531     }
533     /**
534      * This function will process all the question banks present in restore
535      * at some contextlevel (from CONTEXT_SYSTEM to CONTEXT_MODULE), finding
536      * the target contexts where each bank will be restored and returning
537      * warnings/errors as needed.
538      *
539      * Some contextlevels (system, coursecat), will delegate process to
540      * course level if any problem is found (lack of permissions, non-matching
541      * target context...). Other contextlevels (course, module) will
542      * cause return error if some problem is found.
543      *
544      * At the end, if no errors were found, all the categories in backup_temp_ids
545      * will be pointing (parentitemid) to the target context where they must be
546      * created later in the restore process.
547      *
548      * Note: at the time these prechecks are executed, activities haven't been
549      * created yet so, for CONTEXT_MODULE banks, we keep the old contextid
550      * in the parentitemid field. Once the activity (and its context) has been
551      * created, we'll update that context in the required qcats
552      *
553      * Caller {@link precheck_categories_and_questions} will, simply, execute
554      * this function for all the contextlevels, acting as a simple controller
555      * of warnings and errors.
556      *
557      * The function returns 2 arrays, one containing errors and another containing
558      * warnings. Both empty if no errors/warnings are found.
559      */
560     public static function prechek_precheck_qbanks_by_level($restoreid, $courseid, $userid, $samesite, $contextlevel) {
561         global $CFG, $DB;
563         // To return any errors and warnings found
564         $errors   = array();
565         $warnings = array();
567         // Specify which fallbacks must be performed
568         $fallbacks = array(
569             CONTEXT_SYSTEM => CONTEXT_COURSE,
570             CONTEXT_COURSECAT => CONTEXT_COURSE);
572         // For any contextlevel, follow this process logic:
573         //
574         // 0) Iterate over each context (qbank)
575         // 1) Iterate over each qcat in the context, matching by stamp for the found target context
576         //     2a) No match, check if user can create qcat and q
577         //         3a) User can, mark the qcat and all dependent qs to be created in that target context
578         //         3b) User cannot, check if we are in some contextlevel with fallback
579         //             4a) There is fallback, move ALL the qcats to fallback, warn. End qcat loop
580         //             4b) No fallback, error. End qcat loop.
581         //     2b) Match, mark qcat to be mapped and iterate over each q, matching by stamp and version
582         //         5a) No match, check if user can add q
583         //             6a) User can, mark the q to be created
584         //             6b) User cannot, check if we are in some contextlevel with fallback
585         //                 7a) There is fallback, move ALL the qcats to fallback, warn. End qcat loop
586         //                 7b) No fallback, error. End qcat loop
587         //         5b) Match, mark q to be mapped
589         // Get all the contexts (question banks) in restore for the given contextlevel
590         $contexts = self::restore_get_question_banks($restoreid, $contextlevel);
592         // 0) Iterate over each context (qbank)
593         foreach ($contexts as $contextid => $contextlevel) {
594             // Init some perms
595             $canmanagecategory = false;
596             $canadd            = false;
597             // get categories in context (bank)
598             $categories = self::restore_get_question_categories($restoreid, $contextid);
599             // cache permissions if $targetcontext is found
600             if ($targetcontext = self::restore_find_best_target_context($categories, $courseid, $contextlevel)) {
601                 $canmanagecategory = has_capability('moodle/question:managecategory', $targetcontext, $userid);
602                 $canadd            = has_capability('moodle/question:add', $targetcontext, $userid);
603             }
604             // 1) Iterate over each qcat in the context, matching by stamp for the found target context
605             foreach ($categories as $category) {
606                 $matchcat = false;
607                 if ($targetcontext) {
608                     $matchcat = $DB->get_record('question_categories', array(
609                                     'contextid' => $targetcontext->id,
610                                     'stamp' => $category->stamp));
611                 }
612                 // 2a) No match, check if user can create qcat and q
613                 if (!$matchcat) {
614                     // 3a) User can, mark the qcat and all dependent qs to be created in that target context
615                     if ($canmanagecategory && $canadd) {
616                         // Set parentitemid to targetcontext, BUT for CONTEXT_MODULE categories, where
617                         // we keep the source contextid unmodified (for easier matching later when the
618                         // activities are created)
619                         $parentitemid = $targetcontext->id;
620                         if ($contextlevel == CONTEXT_MODULE) {
621                             $parentitemid = null; // null means "not modify" a.k.a. leave original contextid
622                         }
623                         self::set_backup_ids_record($restoreid, 'question_category', $category->id, 0, $parentitemid);
624                         // Nothing else to mark, newitemid = 0 means create
626                     // 3b) User cannot, check if we are in some contextlevel with fallback
627                     } else {
628                         // 4a) There is fallback, move ALL the qcats to fallback, warn. End qcat loop
629                         if (array_key_exists($contextlevel, $fallbacks)) {
630                             foreach ($categories as $movedcat) {
631                                 $movedcat->contextlevel = $fallbacks[$contextlevel];
632                                 self::set_backup_ids_record($restoreid, 'question_category', $movedcat->id, 0, $contextid, $movedcat);
633                                 // Warn about the performed fallback
634                                 $warnings[] = get_string('qcategory2coursefallback', 'backup', $movedcat);
635                             }
637                         // 4b) No fallback, error. End qcat loop.
638                         } else {
639                             $errors[] = get_string('qcategorycannotberestored', 'backup', $category);
640                         }
641                         break; // out from qcat loop (both 4a and 4b), we have decided about ALL categories in context (bank)
642                     }
644                 // 2b) Match, mark qcat to be mapped and iterate over each q, matching by stamp and version
645                 } else {
646                     self::set_backup_ids_record($restoreid, 'question_category', $category->id, $matchcat->id, $targetcontext->id);
647                     $questions = self::restore_get_questions($restoreid, $category->id);
649                     // Collect all the questions for this category into memory so we only talk to the DB once.
650                     $questioncache = $DB->get_records_sql_menu("SELECT ".$DB->sql_concat('stamp', "' '", 'version').", id
651                                                                   FROM {question}
652                                                                  WHERE category = ?", array($matchcat->id));
654                     foreach ($questions as $question) {
655                         if (isset($questioncache[$question->stamp." ".$question->version])) {
656                             $matchqid = $questioncache[$question->stamp." ".$question->version];
657                         } else {
658                             $matchqid = false;
659                         }
660                         // 5a) No match, check if user can add q
661                         if (!$matchqid) {
662                             // 6a) User can, mark the q to be created
663                             if ($canadd) {
664                                 // Nothing to mark, newitemid means create
666                              // 6b) User cannot, check if we are in some contextlevel with fallback
667                             } else {
668                                 // 7a) There is fallback, move ALL the qcats to fallback, warn. End qcat loo
669                                 if (array_key_exists($contextlevel, $fallbacks)) {
670                                     foreach ($categories as $movedcat) {
671                                         $movedcat->contextlevel = $fallbacks[$contextlevel];
672                                         self::set_backup_ids_record($restoreid, 'question_category', $movedcat->id, 0, $contextid, $movedcat);
673                                         // Warn about the performed fallback
674                                         $warnings[] = get_string('question2coursefallback', 'backup', $movedcat);
675                                     }
677                                 // 7b) No fallback, error. End qcat loop
678                                 } else {
679                                     $errors[] = get_string('questioncannotberestored', 'backup', $question);
680                                 }
681                                 break 2; // out from qcat loop (both 7a and 7b), we have decided about ALL categories in context (bank)
682                             }
684                         // 5b) Match, mark q to be mapped
685                         } else {
686                             self::set_backup_ids_record($restoreid, 'question', $question->id, $matchqid);
687                         }
688                     }
689                 }
690             }
691         }
693         return array($errors, $warnings);
694     }
696     /**
697      * Return one array of contextid => contextlevel pairs
698      * of question banks to be checked for one given restore operation
699      * ordered from CONTEXT_SYSTEM downto CONTEXT_MODULE
700      * If contextlevel is specified, then only banks corresponding to
701      * that level are returned
702      */
703     public static function restore_get_question_banks($restoreid, $contextlevel = null) {
704         global $DB;
706         $results = array();
707         $qcats = $DB->get_recordset_sql("SELECT itemid, parentitemid AS contextid, info
708                                          FROM {backup_ids_temp}
709                                        WHERE backupid = ?
710                                          AND itemname = 'question_category'", array($restoreid));
711         foreach ($qcats as $qcat) {
712             // If this qcat context haven't been acummulated yet, do that
713             if (!isset($results[$qcat->contextid])) {
714                 $info = backup_controller_dbops::decode_backup_temp_info($qcat->info);
715                 // Filter by contextlevel if necessary
716                 if (is_null($contextlevel) || $contextlevel == $info->contextlevel) {
717                     $results[$qcat->contextid] = $info->contextlevel;
718                 }
719             }
720         }
721         $qcats->close();
722         // Sort by value (contextlevel from CONTEXT_SYSTEM downto CONTEXT_MODULE)
723         asort($results);
724         return $results;
725     }
727     /**
728      * Return one array of question_category records for
729      * a given restore operation and one restore context (question bank)
730      */
731     public static function restore_get_question_categories($restoreid, $contextid) {
732         global $DB;
734         $results = array();
735         $qcats = $DB->get_recordset_sql("SELECT itemid, info
736                                          FROM {backup_ids_temp}
737                                         WHERE backupid = ?
738                                           AND itemname = 'question_category'
739                                           AND parentitemid = ?", array($restoreid, $contextid));
740         foreach ($qcats as $qcat) {
741             $results[$qcat->itemid] = backup_controller_dbops::decode_backup_temp_info($qcat->info);
742         }
743         $qcats->close();
745         return $results;
746     }
748     /**
749      * Calculates the best context found to restore one collection of qcats,
750      * al them belonging to the same context (question bank), returning the
751      * target context found (object) or false
752      */
753     public static function restore_find_best_target_context($categories, $courseid, $contextlevel) {
754         global $DB;
756         $targetcontext = false;
758         // Depending of $contextlevel, we perform different actions
759         switch ($contextlevel) {
760              // For system is easy, the best context is the system context
761              case CONTEXT_SYSTEM:
762                  $targetcontext = context_system::instance();
763                  break;
765              // For coursecat, we are going to look for stamps in all the
766              // course categories between CONTEXT_SYSTEM and CONTEXT_COURSE
767              // (i.e. in all the course categories in the path)
768              //
769              // And only will return one "best" target context if all the
770              // matches belong to ONE and ONLY ONE context. If multiple
771              // matches are found, that means that there is some annoying
772              // qbank "fragmentation" in the categories, so we'll fallback
773              // to create the qbank at course level
774              case CONTEXT_COURSECAT:
775                  // Build the array of stamps we are going to match
776                  $stamps = array();
777                  foreach ($categories as $category) {
778                      $stamps[] = $category->stamp;
779                  }
780                  $contexts = array();
781                  // Build the array of contexts we are going to look
782                  $systemctx = context_system::instance();
783                  $coursectx = context_course::instance($courseid);
784                  $parentctxs = $coursectx->get_parent_context_ids();
785                  foreach ($parentctxs as $parentctx) {
786                      // Exclude system context
787                      if ($parentctx == $systemctx->id) {
788                          continue;
789                      }
790                      $contexts[] = $parentctx;
791                  }
792                  if (!empty($stamps) && !empty($contexts)) {
793                      // Prepare the query
794                      list($stamp_sql, $stamp_params) = $DB->get_in_or_equal($stamps);
795                      list($context_sql, $context_params) = $DB->get_in_or_equal($contexts);
796                      $sql = "SELECT contextid
797                                FROM {question_categories}
798                               WHERE stamp $stamp_sql
799                                 AND contextid $context_sql";
800                      $params = array_merge($stamp_params, $context_params);
801                      $matchingcontexts = $DB->get_records_sql($sql, $params);
802                      // Only if ONE and ONLY ONE context is found, use it as valid target
803                      if (count($matchingcontexts) == 1) {
804                          $targetcontext = context::instance_by_id(reset($matchingcontexts)->contextid);
805                      }
806                  }
807                  break;
809              // For course is easy, the best context is the course context
810              case CONTEXT_COURSE:
811                  $targetcontext = context_course::instance($courseid);
812                  break;
814              // For module is easy, there is not best context, as far as the
815              // activity hasn't been created yet. So we return context course
816              // for them, so permission checks and friends will work. Note this
817              // case is handled by {@link prechek_precheck_qbanks_by_level}
818              // in an special way
819              case CONTEXT_MODULE:
820                  $targetcontext = context_course::instance($courseid);
821                  break;
822         }
823         return $targetcontext;
824     }
826     /**
827      * Return one array of question records for
828      * a given restore operation and one question category
829      */
830     public static function restore_get_questions($restoreid, $qcatid) {
831         global $DB;
833         $results = array();
834         $qs = $DB->get_recordset_sql("SELECT itemid, info
835                                       FROM {backup_ids_temp}
836                                      WHERE backupid = ?
837                                        AND itemname = 'question'
838                                        AND parentitemid = ?", array($restoreid, $qcatid));
839         foreach ($qs as $q) {
840             $results[$q->itemid] = backup_controller_dbops::decode_backup_temp_info($q->info);
841         }
842         $qs->close();
843         return $results;
844     }
846     /**
847      * Given one component/filearea/context and
848      * optionally one source itemname to match itemids
849      * put the corresponding files in the pool
850      *
851      * If you specify a progress reporter, it will get called once per file with
852      * indeterminate progress.
853      *
854      * @param string $basepath the full path to the root of unzipped backup file
855      * @param string $restoreid the restore job's identification
856      * @param string $component
857      * @param string $filearea
858      * @param int $oldcontextid
859      * @param int $dfltuserid default $file->user if the old one can't be mapped
860      * @param string|null $itemname
861      * @param int|null $olditemid
862      * @param int|null $forcenewcontextid explicit value for the new contextid (skip mapping)
863      * @param bool $skipparentitemidctxmatch
864      * @param core_backup_progress $progress Optional progress reporter
865      * @return array of result object
866      */
867     public static function send_files_to_pool($basepath, $restoreid, $component, $filearea,
868             $oldcontextid, $dfltuserid, $itemname = null, $olditemid = null,
869             $forcenewcontextid = null, $skipparentitemidctxmatch = false,
870             core_backup_progress $progress = null) {
871         global $DB, $CFG;
873         $backupinfo = backup_general_helper::get_backup_information(basename($basepath));
874         $includesfiles = $backupinfo->include_files;
876         $results = array();
878         if ($forcenewcontextid) {
879             // Some components can have "forced" new contexts (example: questions can end belonging to non-standard context mappings,
880             // with questions originally at system/coursecat context in source being restored to course context in target). So we need
881             // to be able to force the new contextid
882             $newcontextid = $forcenewcontextid;
883         } else {
884             // Get new context, must exist or this will fail
885             if (!$newcontextid = self::get_backup_ids_record($restoreid, 'context', $oldcontextid)->newitemid) {
886                 throw new restore_dbops_exception('unknown_context_mapping', $oldcontextid);
887             }
888         }
890         // Sometimes it's possible to have not the oldcontextids stored into backup_ids_temp->parentitemid
891         // columns (because we have used them to store other information). This happens usually with
892         // all the question related backup_ids_temp records. In that case, it's safe to ignore that
893         // matching as far as we are always restoring for well known oldcontexts and olditemids
894         $parentitemctxmatchsql = ' AND i.parentitemid = f.contextid ';
895         if ($skipparentitemidctxmatch) {
896             $parentitemctxmatchsql = '';
897         }
899         // Important: remember how files have been loaded to backup_files_temp
900         //   - info: contains the whole original object (times, names...)
901         //   (all them being original ids as loaded from xml)
903         // itemname = null, we are going to match only by context, no need to use itemid (all them are 0)
904         if ($itemname == null) {
905             $sql = "SELECT id AS bftid, contextid, component, filearea, itemid, itemid AS newitemid, info
906                       FROM {backup_files_temp}
907                      WHERE backupid = ?
908                        AND contextid = ?
909                        AND component = ?
910                        AND filearea  = ?";
911             $params = array($restoreid, $oldcontextid, $component, $filearea);
913         // itemname not null, going to join with backup_ids to perform the old-new mapping of itemids
914         } else {
915             $sql = "SELECT f.id AS bftid, f.contextid, f.component, f.filearea, f.itemid, i.newitemid, f.info
916                       FROM {backup_files_temp} f
917                       JOIN {backup_ids_temp} i ON i.backupid = f.backupid
918                                               $parentitemctxmatchsql
919                                               AND i.itemid = f.itemid
920                      WHERE f.backupid = ?
921                        AND f.contextid = ?
922                        AND f.component = ?
923                        AND f.filearea = ?
924                        AND i.itemname = ?";
925             $params = array($restoreid, $oldcontextid, $component, $filearea, $itemname);
926             if ($olditemid !== null) { // Just process ONE olditemid intead of the whole itemname
927                 $sql .= ' AND i.itemid = ?';
928                 $params[] = $olditemid;
929             }
930         }
932         $fs = get_file_storage();         // Get moodle file storage
933         $basepath = $basepath . '/files/';// Get backup file pool base
934         // Report progress before query.
935         if ($progress) {
936             $progress->progress();
937         }
938         $rs = $DB->get_recordset_sql($sql, $params);
939         foreach ($rs as $rec) {
940             // Report progress each time around loop.
941             if ($progress) {
942                 $progress->progress();
943             }
945             $file = (object)backup_controller_dbops::decode_backup_temp_info($rec->info);
947             // ignore root dirs (they are created automatically)
948             if ($file->filepath == '/' && $file->filename == '.') {
949                 continue;
950             }
952             // set the best possible user
953             $mappeduser = self::get_backup_ids_record($restoreid, 'user', $file->userid);
954             $mappeduserid = !empty($mappeduser) ? $mappeduser->newitemid : $dfltuserid;
956             // dir found (and not root one), let's create it
957             if ($file->filename == '.') {
958                 $fs->create_directory($newcontextid, $component, $filearea, $rec->newitemid, $file->filepath, $mappeduserid);
959                 continue;
960             }
962             // The file record to restore.
963             $file_record = array(
964                 'contextid'   => $newcontextid,
965                 'component'   => $component,
966                 'filearea'    => $filearea,
967                 'itemid'      => $rec->newitemid,
968                 'filepath'    => $file->filepath,
969                 'filename'    => $file->filename,
970                 'timecreated' => $file->timecreated,
971                 'timemodified'=> $file->timemodified,
972                 'userid'      => $mappeduserid,
973                 'author'      => $file->author,
974                 'license'     => $file->license,
975                 'sortorder'   => $file->sortorder
976             );
978             if (empty($file->repositoryid)) {
979                 // If contenthash is empty then gracefully skip adding file.
980                 if (empty($file->contenthash)) {
981                     $result = new stdClass();
982                     $result->code = 'file_missing_in_backup';
983                     $result->message = sprintf('missing file (%s) contenthash in backup for component %s', $file->filename, $component);
984                     $result->level = backup::LOG_WARNING;
985                     $results[] = $result;
986                     continue;
987                 }
988                 // this is a regular file, it must be present in the backup pool
989                 $backuppath = $basepath . backup_file_manager::get_backup_content_file_location($file->contenthash);
991                 // Some file types do not include the files as they should already be
992                 // present. We still need to create entries into the files table.
993                 if ($includesfiles) {
994                     // The file is not found in the backup.
995                     if (!file_exists($backuppath)) {
996                         $result = new stdClass();
997                         $result->code = 'file_missing_in_backup';
998                         $result->message = sprintf('missing file %s%s in backup', $file->filepath, $file->filename);
999                         $result->level = backup::LOG_WARNING;
1000                         $results[] = $result;
1001                         continue;
1002                     }
1004                     // create the file in the filepool if it does not exist yet
1005                     if (!$fs->file_exists($newcontextid, $component, $filearea, $rec->newitemid, $file->filepath, $file->filename)) {
1007                         // If no license found, use default.
1008                         if ($file->license == null){
1009                             $file->license = $CFG->sitedefaultlicense;
1010                         }
1012                         $fs->create_file_from_pathname($file_record, $backuppath);
1013                     }
1014                 } else {
1015                     // This backup does not include the files - they should be available in moodle filestorage already.
1017                     // Create the file in the filepool if it does not exist yet.
1018                     if (!$fs->file_exists($newcontextid, $component, $filearea, $rec->newitemid, $file->filepath, $file->filename)) {
1020                         // Even if a file has been deleted since the backup was made, the file metadata will remain in the
1021                         // files table, and the file will not be moved to the trashdir.
1022                         // Files are not cleared from the files table by cron until several days after deletion.
1023                         if ($foundfiles = $DB->get_records('files', array('contenthash' => $file->contenthash))) {
1024                             // Only grab one of the foundfiles - the file content should be the same for all entries.
1025                             $foundfile = reset($foundfiles);
1026                             $fs->create_file_from_storedfile($file_record, $foundfile->id);
1027                         } else {
1028                             // A matching existing file record was not found in the database.
1029                             $result = new stdClass();
1030                             $result->code = 'file_missing_in_backup';
1031                             $result->message = sprintf('missing file %s%s in backup', $file->filepath, $file->filename);
1032                             $result->level = backup::LOG_WARNING;
1033                             $results[] = $result;
1034                             continue;
1035                         }
1036                     }
1037                 }
1039                 // store the the new contextid and the new itemid in case we need to remap
1040                 // references to this file later
1041                 $DB->update_record('backup_files_temp', array(
1042                     'id' => $rec->bftid,
1043                     'newcontextid' => $newcontextid,
1044                     'newitemid' => $rec->newitemid), true);
1046             } else {
1047                 // this is an alias - we can't create it yet so we stash it in a temp
1048                 // table and will let the final task to deal with it
1049                 if (!$fs->file_exists($newcontextid, $component, $filearea, $rec->newitemid, $file->filepath, $file->filename)) {
1050                     $info = new stdClass();
1051                     // oldfile holds the raw information stored in MBZ (including reference-related info)
1052                     $info->oldfile = $file;
1053                     // newfile holds the info for the new file_record with the context, user and itemid mapped
1054                     $info->newfile = (object) $file_record;
1056                     restore_dbops::set_backup_ids_record($restoreid, 'file_aliases_queue', $file->id, 0, null, $info);
1057                 }
1058             }
1059         }
1060         $rs->close();
1061         return $results;
1062     }
1064     /**
1065      * Given one restoreid, create in DB all the users present
1066      * in backup_ids having newitemid = 0, as far as
1067      * precheck_included_users() have left them there
1068      * ready to be created. Also, annotate their newids
1069      * once created for later reference.
1070      *
1071      * This function will start and end a new progress section in the progress
1072      * object.
1073      *
1074      * @param string $basepath Base path of unzipped backup
1075      * @param string $restoreid Restore ID
1076      * @param int $userid Default userid for files
1077      * @param core_backup_progress $progress Object used for progress tracking
1078      */
1079     public static function create_included_users($basepath, $restoreid, $userid,
1080             core_backup_progress $progress) {
1081         global $CFG, $DB;
1082         $progress->start_progress('Creating included users');
1084         $authcache = array(); // Cache to get some bits from authentication plugins
1085         $languages = get_string_manager()->get_list_of_translations(); // Get languages for quick search later
1086         $themes    = get_list_of_themes(); // Get themes for quick search later
1088         // Iterate over all the included users with newitemid = 0, have to create them
1089         $rs = $DB->get_recordset('backup_ids_temp', array('backupid' => $restoreid, 'itemname' => 'user', 'newitemid' => 0), '', 'itemid, parentitemid, info');
1090         foreach ($rs as $recuser) {
1091             $progress->progress();
1092             $user = (object)backup_controller_dbops::decode_backup_temp_info($recuser->info);
1094             // if user lang doesn't exist here, use site default
1095             if (!array_key_exists($user->lang, $languages)) {
1096                 $user->lang = $CFG->lang;
1097             }
1099             // if user theme isn't available on target site or they are disabled, reset theme
1100             if (!empty($user->theme)) {
1101                 if (empty($CFG->allowuserthemes) || !in_array($user->theme, $themes)) {
1102                     $user->theme = '';
1103                 }
1104             }
1106             // if user to be created has mnet auth and its mnethostid is $CFG->mnet_localhost_id
1107             // that's 100% impossible as own server cannot be accesed over mnet. Change auth to email/manual
1108             if ($user->auth == 'mnet' && $user->mnethostid == $CFG->mnet_localhost_id) {
1109                 // Respect registerauth
1110                 if ($CFG->registerauth == 'email') {
1111                     $user->auth = 'email';
1112                 } else {
1113                     $user->auth = 'manual';
1114                 }
1115             }
1116             unset($user->mnethosturl); // Not needed anymore
1118             // Disable pictures based on global setting
1119             if (!empty($CFG->disableuserimages)) {
1120                 $user->picture = 0;
1121             }
1123             // We need to analyse the AUTH field to recode it:
1124             //   - if the auth isn't enabled in target site, $CFG->registerauth will decide
1125             //   - finally, if the auth resulting isn't enabled, default to 'manual'
1126             if (!is_enabled_auth($user->auth)) {
1127                 if ($CFG->registerauth == 'email') {
1128                     $user->auth = 'email';
1129                 } else {
1130                     $user->auth = 'manual';
1131                 }
1132             }
1133             if (!is_enabled_auth($user->auth)) { // Final auth check verify, default to manual if not enabled
1134                 $user->auth = 'manual';
1135             }
1137             // Now that we know the auth method, for users to be created without pass
1138             // if password handling is internal and reset password is available
1139             // we set the password to "restored" (plain text), so the login process
1140             // will know how to handle that situation in order to allow the user to
1141             // recover the password. MDL-20846
1142             if (empty($user->password)) { // Only if restore comes without password
1143                 if (!array_key_exists($user->auth, $authcache)) { // Not in cache
1144                     $userauth = new stdClass();
1145                     $authplugin = get_auth_plugin($user->auth);
1146                     $userauth->preventpassindb = $authplugin->prevent_local_passwords();
1147                     $userauth->isinternal      = $authplugin->is_internal();
1148                     $userauth->canresetpwd     = $authplugin->can_reset_password();
1149                     $authcache[$user->auth] = $userauth;
1150                 } else {
1151                     $userauth = $authcache[$user->auth]; // Get from cache
1152                 }
1154                 // Most external plugins do not store passwords locally
1155                 if (!empty($userauth->preventpassindb)) {
1156                     $user->password = AUTH_PASSWORD_NOT_CACHED;
1158                 // If Moodle is responsible for storing/validating pwd and reset functionality is available, mark
1159                 } else if ($userauth->isinternal and $userauth->canresetpwd) {
1160                     $user->password = 'restored';
1161                 }
1162             }
1164             // Creating new user, we must reset the policyagreed always
1165             $user->policyagreed = 0;
1167             // Set time created if empty
1168             if (empty($user->timecreated)) {
1169                 $user->timecreated = time();
1170             }
1172             // Done, let's create the user and annotate its id
1173             $newuserid = $DB->insert_record('user', $user);
1174             self::set_backup_ids_record($restoreid, 'user', $recuser->itemid, $newuserid);
1175             // Let's create the user context and annotate it (we need it for sure at least for files)
1176             // but for deleted users that don't have a context anymore (MDL-30192). We are done for them
1177             // and nothing else (custom fields, prefs, tags, files...) will be created.
1178             if (empty($user->deleted)) {
1179                 $newuserctxid = $user->deleted ? 0 : context_user::instance($newuserid)->id;
1180                 self::set_backup_ids_record($restoreid, 'context', $recuser->parentitemid, $newuserctxid);
1182                 // Process custom fields
1183                 if (isset($user->custom_fields)) { // if present in backup
1184                     foreach($user->custom_fields['custom_field'] as $udata) {
1185                         $udata = (object)$udata;
1186                         // If the profile field has data and the profile shortname-datatype is defined in server
1187                         if ($udata->field_data) {
1188                             if ($field = $DB->get_record('user_info_field', array('shortname'=>$udata->field_name, 'datatype'=>$udata->field_type))) {
1189                             /// Insert the user_custom_profile_field
1190                                 $rec = new stdClass();
1191                                 $rec->userid  = $newuserid;
1192                                 $rec->fieldid = $field->id;
1193                                 $rec->data    = $udata->field_data;
1194                                 $DB->insert_record('user_info_data', $rec);
1195                             }
1196                         }
1197                     }
1198                 }
1200                 // Process tags
1201                 if (!empty($CFG->usetags) && isset($user->tags)) { // if enabled in server and present in backup
1202                     $tags = array();
1203                     foreach($user->tags['tag'] as $usertag) {
1204                         $usertag = (object)$usertag;
1205                         $tags[] = $usertag->rawname;
1206                     }
1207                     tag_set('user', $newuserid, $tags);
1208                 }
1210                 // Process preferences
1211                 if (isset($user->preferences)) { // if present in backup
1212                     foreach($user->preferences['preference'] as $preference) {
1213                         $preference = (object)$preference;
1214                         // Prepare the record and insert it
1215                         $preference->userid = $newuserid;
1216                         $status = $DB->insert_record('user_preferences', $preference);
1217                     }
1218                 }
1219                 // Special handling for htmleditor which was converted to a preference.
1220                 if (isset($user->htmleditor)) {
1221                     if ($user->htmleditor == 0) {
1222                         $preference = new stdClass();
1223                         $preference->userid = $newuserid;
1224                         $preference->name = 'htmleditor';
1225                         $preference->value = 'textarea';
1226                         $status = $DB->insert_record('user_preferences', $preference);
1227                     }
1228                 }
1230                 // Create user files in pool (profile, icon, private) by context
1231                 restore_dbops::send_files_to_pool($basepath, $restoreid, 'user', 'icon',
1232                         $recuser->parentitemid, $userid, null, null, null, false, $progress);
1233                 restore_dbops::send_files_to_pool($basepath, $restoreid, 'user', 'profile',
1234                         $recuser->parentitemid, $userid, null, null, null, false, $progress);
1235             }
1236         }
1237         $rs->close();
1238         $progress->end_progress();
1239     }
1241     /**
1242     * Given one user object (from backup file), perform all the neccesary
1243     * checks is order to decide how that user will be handled on restore.
1244     *
1245     * Note the function requires $user->mnethostid to be already calculated
1246     * so it's caller responsibility to set it
1247     *
1248     * This function is used both by @restore_precheck_users() and
1249     * @restore_create_users() to get consistent results in both places
1250     *
1251     * It returns:
1252     *   - one user object (from DB), if match has been found and user will be remapped
1253     *   - boolean true if the user needs to be created
1254     *   - boolean false if some conflict happened and the user cannot be handled
1255     *
1256     * Each test is responsible for returning its results and interrupt
1257     * execution. At the end, boolean true (user needs to be created) will be
1258     * returned if no test has interrupted that.
1259     *
1260     * Here it's the logic applied, keep it updated:
1261     *
1262     *  If restoring users from same site backup:
1263     *      1A - Normal check: If match by id and username and mnethost  => ok, return target user
1264     *      1B - If restoring an 'anonymous' user (created via the 'Anonymize user information' option) try to find a
1265     *           match by username only => ok, return target user MDL-31484
1266     *      1C - Handle users deleted in DB and "alive" in backup file:
1267     *           If match by id and mnethost and user is deleted in DB and
1268     *           (match by username LIKE 'backup_email.%' or by non empty email = md5(username)) => ok, return target user
1269     *      1D - Handle users deleted in backup file and "alive" in DB:
1270     *           If match by id and mnethost and user is deleted in backup file
1271     *           and match by email = email_without_time(backup_email) => ok, return target user
1272     *      1E - Conflict: If match by username and mnethost and doesn't match by id => conflict, return false
1273     *      1F - None of the above, return true => User needs to be created
1274     *
1275     *  if restoring from another site backup (cannot match by id here, replace it by email/firstaccess combination):
1276     *      2A - Normal check: If match by username and mnethost and (email or non-zero firstaccess) => ok, return target user
1277     *      2B - Handle users deleted in DB and "alive" in backup file:
1278     *           2B1 - If match by mnethost and user is deleted in DB and not empty email = md5(username) and
1279     *                 (username LIKE 'backup_email.%' or non-zero firstaccess) => ok, return target user
1280     *           2B2 - If match by mnethost and user is deleted in DB and
1281     *                 username LIKE 'backup_email.%' and non-zero firstaccess) => ok, return target user
1282     *                 (to cover situations were md5(username) wasn't implemented on delete we requiere both)
1283     *      2C - Handle users deleted in backup file and "alive" in DB:
1284     *           If match mnethost and user is deleted in backup file
1285     *           and by email = email_without_time(backup_email) and non-zero firstaccess=> ok, return target user
1286     *      2D - Conflict: If match by username and mnethost and not by (email or non-zero firstaccess) => conflict, return false
1287     *      2E - None of the above, return true => User needs to be created
1288     *
1289     * Note: for DB deleted users email is stored in username field, hence we
1290     *       are looking there for emails. See delete_user()
1291     * Note: for DB deleted users md5(username) is stored *sometimes* in the email field,
1292     *       hence we are looking there for usernames if not empty. See delete_user()
1293     */
1294     protected static function precheck_user($user, $samesite) {
1295         global $CFG, $DB;
1297         // Handle checks from same site backups
1298         if ($samesite && empty($CFG->forcedifferentsitecheckingusersonrestore)) {
1300             // 1A - If match by id and username and mnethost => ok, return target user
1301             if ($rec = $DB->get_record('user', array('id'=>$user->id, 'username'=>$user->username, 'mnethostid'=>$user->mnethostid))) {
1302                 return $rec; // Matching user found, return it
1303             }
1305             // 1B - If restoring an 'anonymous' user (created via the 'Anonymize user information' option) try to find a
1306             // match by username only => ok, return target user MDL-31484
1307             // This avoids username / id mis-match problems when restoring subsequent anonymized backups.
1308             if (backup_anonymizer_helper::is_anonymous_user($user)) {
1309                 if ($rec = $DB->get_record('user', array('username' => $user->username))) {
1310                     return $rec; // Matching anonymous user found - return it
1311                 }
1312             }
1314             // 1C - Handle users deleted in DB and "alive" in backup file
1315             // Note: for DB deleted users email is stored in username field, hence we
1316             //       are looking there for emails. See delete_user()
1317             // Note: for DB deleted users md5(username) is stored *sometimes* in the email field,
1318             //       hence we are looking there for usernames if not empty. See delete_user()
1319             // If match by id and mnethost and user is deleted in DB and
1320             // match by username LIKE 'backup_email.%' or by non empty email = md5(username) => ok, return target user
1321             if ($rec = $DB->get_record_sql("SELECT *
1322                                               FROM {user} u
1323                                              WHERE id = ?
1324                                                AND mnethostid = ?
1325                                                AND deleted = 1
1326                                                AND (
1327                                                        UPPER(username) LIKE UPPER(?)
1328                                                     OR (
1329                                                            ".$DB->sql_isnotempty('user', 'email', false, false)."
1330                                                        AND email = ?
1331                                                        )
1332                                                    )",
1333                                            array($user->id, $user->mnethostid, $user->email.'.%', md5($user->username)))) {
1334                 return $rec; // Matching user, deleted in DB found, return it
1335             }
1337             // 1D - Handle users deleted in backup file and "alive" in DB
1338             // If match by id and mnethost and user is deleted in backup file
1339             // and match by email = email_without_time(backup_email) => ok, return target user
1340             if ($user->deleted) {
1341                 // Note: for DB deleted users email is stored in username field, hence we
1342                 //       are looking there for emails. See delete_user()
1343                 // Trim time() from email
1344                 $trimemail = preg_replace('/(.*?)\.[0-9]+.?$/', '\\1', $user->username);
1345                 if ($rec = $DB->get_record_sql("SELECT *
1346                                                   FROM {user} u
1347                                                  WHERE id = ?
1348                                                    AND mnethostid = ?
1349                                                    AND UPPER(email) = UPPER(?)",
1350                                                array($user->id, $user->mnethostid, $trimemail))) {
1351                     return $rec; // Matching user, deleted in backup file found, return it
1352                 }
1353             }
1355             // 1E - If match by username and mnethost and doesn't match by id => conflict, return false
1356             if ($rec = $DB->get_record('user', array('username'=>$user->username, 'mnethostid'=>$user->mnethostid))) {
1357                 if ($user->id != $rec->id) {
1358                     return false; // Conflict, username already exists and belongs to another id
1359                 }
1360             }
1362         // Handle checks from different site backups
1363         } else {
1365             // 2A - If match by username and mnethost and
1366             //     (email or non-zero firstaccess) => ok, return target user
1367             if ($rec = $DB->get_record_sql("SELECT *
1368                                               FROM {user} u
1369                                              WHERE username = ?
1370                                                AND mnethostid = ?
1371                                                AND (
1372                                                        UPPER(email) = UPPER(?)
1373                                                     OR (
1374                                                            firstaccess != 0
1375                                                        AND firstaccess = ?
1376                                                        )
1377                                                    )",
1378                                            array($user->username, $user->mnethostid, $user->email, $user->firstaccess))) {
1379                 return $rec; // Matching user found, return it
1380             }
1382             // 2B - Handle users deleted in DB and "alive" in backup file
1383             // Note: for DB deleted users email is stored in username field, hence we
1384             //       are looking there for emails. See delete_user()
1385             // Note: for DB deleted users md5(username) is stored *sometimes* in the email field,
1386             //       hence we are looking there for usernames if not empty. See delete_user()
1387             // 2B1 - If match by mnethost and user is deleted in DB and not empty email = md5(username) and
1388             //       (by username LIKE 'backup_email.%' or non-zero firstaccess) => ok, return target user
1389             if ($rec = $DB->get_record_sql("SELECT *
1390                                               FROM {user} u
1391                                              WHERE mnethostid = ?
1392                                                AND deleted = 1
1393                                                AND ".$DB->sql_isnotempty('user', 'email', false, false)."
1394                                                AND email = ?
1395                                                AND (
1396                                                        UPPER(username) LIKE UPPER(?)
1397                                                     OR (
1398                                                            firstaccess != 0
1399                                                        AND firstaccess = ?
1400                                                        )
1401                                                    )",
1402                                            array($user->mnethostid, md5($user->username), $user->email.'.%', $user->firstaccess))) {
1403                 return $rec; // Matching user found, return it
1404             }
1406             // 2B2 - If match by mnethost and user is deleted in DB and
1407             //       username LIKE 'backup_email.%' and non-zero firstaccess) => ok, return target user
1408             //       (this covers situations where md5(username) wasn't being stored so we require both
1409             //        the email & non-zero firstaccess to match)
1410             if ($rec = $DB->get_record_sql("SELECT *
1411                                               FROM {user} u
1412                                              WHERE mnethostid = ?
1413                                                AND deleted = 1
1414                                                AND UPPER(username) LIKE UPPER(?)
1415                                                AND firstaccess != 0
1416                                                AND firstaccess = ?",
1417                                            array($user->mnethostid, $user->email.'.%', $user->firstaccess))) {
1418                 return $rec; // Matching user found, return it
1419             }
1421             // 2C - Handle users deleted in backup file and "alive" in DB
1422             // If match mnethost and user is deleted in backup file
1423             // and match by email = email_without_time(backup_email) and non-zero firstaccess=> ok, return target user
1424             if ($user->deleted) {
1425                 // Note: for DB deleted users email is stored in username field, hence we
1426                 //       are looking there for emails. See delete_user()
1427                 // Trim time() from email
1428                 $trimemail = preg_replace('/(.*?)\.[0-9]+.?$/', '\\1', $user->username);
1429                 if ($rec = $DB->get_record_sql("SELECT *
1430                                                   FROM {user} u
1431                                                  WHERE mnethostid = ?
1432                                                    AND UPPER(email) = UPPER(?)
1433                                                    AND firstaccess != 0
1434                                                    AND firstaccess = ?",
1435                                                array($user->mnethostid, $trimemail, $user->firstaccess))) {
1436                     return $rec; // Matching user, deleted in backup file found, return it
1437                 }
1438             }
1440             // 2D - If match by username and mnethost and not by (email or non-zero firstaccess) => conflict, return false
1441             if ($rec = $DB->get_record_sql("SELECT *
1442                                               FROM {user} u
1443                                              WHERE username = ?
1444                                                AND mnethostid = ?
1445                                            AND NOT (
1446                                                        UPPER(email) = UPPER(?)
1447                                                     OR (
1448                                                            firstaccess != 0
1449                                                        AND firstaccess = ?
1450                                                        )
1451                                                    )",
1452                                            array($user->username, $user->mnethostid, $user->email, $user->firstaccess))) {
1453                 return false; // Conflict, username/mnethostid already exist and belong to another user (by email/firstaccess)
1454             }
1455         }
1457         // Arrived here, return true as the user will need to be created and no
1458         // conflicts have been found in the logic above. This covers:
1459         // 1E - else => user needs to be created, return true
1460         // 2E - else => user needs to be created, return true
1461         return true;
1462     }
1464     /**
1465      * Check all the included users, deciding the action to perform
1466      * for each one (mapping / creation) and returning one array
1467      * of problems in case something is wrong (lack of permissions,
1468      * conficts)
1469      *
1470      * @param string $restoreid Restore id
1471      * @param int $courseid Course id
1472      * @param int $userid User id
1473      * @param bool $samesite True if restore is to same site
1474      * @param core_backup_progress $progress Progress reporter
1475      */
1476     public static function precheck_included_users($restoreid, $courseid, $userid, $samesite,
1477             core_backup_progress $progress) {
1478         global $CFG, $DB;
1480         // To return any problem found
1481         $problems = array();
1483         // We are going to map mnethostid, so load all the available ones
1484         $mnethosts = $DB->get_records('mnet_host', array(), 'wwwroot', 'wwwroot, id');
1486         // Calculate the context we are going to use for capability checking
1487         $context = context_course::instance($courseid);
1489         // Calculate if we have perms to create users, by checking:
1490         // to 'moodle/restore:createuser' and 'moodle/restore:userinfo'
1491         // and also observe $CFG->disableusercreationonrestore
1492         $cancreateuser = false;
1493         if (has_capability('moodle/restore:createuser', $context, $userid) and
1494             has_capability('moodle/restore:userinfo', $context, $userid) and
1495             empty($CFG->disableusercreationonrestore)) { // Can create users
1497             $cancreateuser = true;
1498         }
1500         // Prepare for reporting progress.
1501         $conditions = array('backupid' => $restoreid, 'itemname' => 'user');
1502         $max = $DB->count_records('backup_ids_temp', $conditions);
1503         $done = 0;
1504         $progress->start_progress('Checking users', $max);
1506         // Iterate over all the included users
1507         $rs = $DB->get_recordset('backup_ids_temp', $conditions, '', 'itemid, info');
1508         foreach ($rs as $recuser) {
1509             $user = (object)backup_controller_dbops::decode_backup_temp_info($recuser->info);
1511             // Find the correct mnethostid for user before performing any further check
1512             if (empty($user->mnethosturl) || $user->mnethosturl === $CFG->wwwroot) {
1513                 $user->mnethostid = $CFG->mnet_localhost_id;
1514             } else {
1515                 // fast url-to-id lookups
1516                 if (isset($mnethosts[$user->mnethosturl])) {
1517                     $user->mnethostid = $mnethosts[$user->mnethosturl]->id;
1518                 } else {
1519                     $user->mnethostid = $CFG->mnet_localhost_id;
1520                 }
1521             }
1523             // Now, precheck that user and, based on returned results, annotate action/problem
1524             $usercheck = self::precheck_user($user, $samesite);
1526             if (is_object($usercheck)) { // No problem, we have found one user in DB to be mapped to
1527                 // Annotate it, for later process. Set newitemid to mapping user->id
1528                 self::set_backup_ids_record($restoreid, 'user', $recuser->itemid, $usercheck->id);
1530             } else if ($usercheck === false) { // Found conflict, report it as problem
1531                  $problems[] = get_string('restoreuserconflict', '', $user->username);
1533             } else if ($usercheck === true) { // User needs to be created, check if we are able
1534                 if ($cancreateuser) { // Can create user, set newitemid to 0 so will be created later
1535                     self::set_backup_ids_record($restoreid, 'user', $recuser->itemid, 0, null, (array)$user);
1537                 } else { // Cannot create user, report it as problem
1538                     $problems[] = get_string('restorecannotcreateuser', '', $user->username);
1539                 }
1541             } else { // Shouldn't arrive here ever, something is for sure wrong. Exception
1542                 throw new restore_dbops_exception('restore_error_processing_user', $user->username);
1543             }
1544             $done++;
1545             $progress->progress($done);
1546         }
1547         $rs->close();
1548         $progress->end_progress();
1549         return $problems;
1550     }
1552     /**
1553      * Process the needed users in order to decide
1554      * which action to perform with them (create/map)
1555      *
1556      * Just wrap over precheck_included_users(), returning
1557      * exception if any problem is found
1558      *
1559      * @param string $restoreid Restore id
1560      * @param int $courseid Course id
1561      * @param int $userid User id
1562      * @param bool $samesite True if restore is to same site
1563      * @param core_backup_progress $progress Optional progress tracker
1564      */
1565     public static function process_included_users($restoreid, $courseid, $userid, $samesite,
1566             core_backup_progress $progress = null) {
1567         global $DB;
1569         // Just let precheck_included_users() to do all the hard work
1570         $problems = self::precheck_included_users($restoreid, $courseid, $userid, $samesite, $progress);
1572         // With problems, throw exception, shouldn't happen if prechecks were originally
1573         // executed, so be radical here.
1574         if (!empty($problems)) {
1575             throw new restore_dbops_exception('restore_problems_processing_users', null, implode(', ', $problems));
1576         }
1577     }
1579     /**
1580      * Process the needed question categories and questions
1581      * to check all them, deciding about the action to perform
1582      * (create/map) and target.
1583      *
1584      * Just wrap over precheck_categories_and_questions(), returning
1585      * exception if any problem is found
1586      */
1587     public static function process_categories_and_questions($restoreid, $courseid, $userid, $samesite) {
1588         global $DB;
1590         // Just let precheck_included_users() to do all the hard work
1591         $problems = self::precheck_categories_and_questions($restoreid, $courseid, $userid, $samesite);
1593         // With problems of type error, throw exception, shouldn't happen if prechecks were originally
1594         // executed, so be radical here.
1595         if (array_key_exists('errors', $problems)) {
1596             throw new restore_dbops_exception('restore_problems_processing_questions', null, implode(', ', $problems['errors']));
1597         }
1598     }
1600     public static function set_backup_files_record($restoreid, $filerec) {
1601         global $DB;
1603         // Store external files info in `info` field
1604         $filerec->info     = backup_controller_dbops::encode_backup_temp_info($filerec); // Encode the whole record into info.
1605         $filerec->backupid = $restoreid;
1606         $DB->insert_record('backup_files_temp', $filerec);
1607     }
1609     public static function set_backup_ids_record($restoreid, $itemname, $itemid, $newitemid = 0, $parentitemid = null, $info = null) {
1610         // Build conditionally the extra record info
1611         $extrarecord = array();
1612         if ($newitemid != 0) {
1613             $extrarecord['newitemid'] = $newitemid;
1614         }
1615         if ($parentitemid != null) {
1616             $extrarecord['parentitemid'] = $parentitemid;
1617         }
1618         if ($info != null) {
1619             $extrarecord['info'] = backup_controller_dbops::encode_backup_temp_info($info);
1620         }
1622         self::set_backup_ids_cached($restoreid, $itemname, $itemid, $extrarecord);
1623     }
1625     public static function get_backup_ids_record($restoreid, $itemname, $itemid) {
1626         $dbrec = self::get_backup_ids_cached($restoreid, $itemname, $itemid);
1628         // We must test if info is a string, as the cache stores info in object form.
1629         if ($dbrec && isset($dbrec->info) && is_string($dbrec->info)) {
1630             $dbrec->info = backup_controller_dbops::decode_backup_temp_info($dbrec->info);
1631         }
1633         return $dbrec;
1634     }
1636     /**
1637      * Given on courseid, fullname and shortname, calculate the correct fullname/shortname to avoid dupes
1638      */
1639     public static function calculate_course_names($courseid, $fullname, $shortname) {
1640         global $CFG, $DB;
1642         $currentfullname = '';
1643         $currentshortname = '';
1644         $counter = 0;
1645         // Iteratere while the name exists
1646         do {
1647             if ($counter) {
1648                 $suffixfull  = ' ' . get_string('copyasnoun') . ' ' . $counter;
1649                 $suffixshort = '_' . $counter;
1650             } else {
1651                 $suffixfull  = '';
1652                 $suffixshort = '';
1653             }
1654             $currentfullname = $fullname.$suffixfull;
1655             $currentshortname = substr($shortname, 0, 100 - strlen($suffixshort)).$suffixshort; // < 100cc
1656             $coursefull  = $DB->get_record_select('course', 'fullname = ? AND id != ?',
1657                     array($currentfullname, $courseid), '*', IGNORE_MULTIPLE);
1658             $courseshort = $DB->get_record_select('course', 'shortname = ? AND id != ?', array($currentshortname, $courseid));
1659             $counter++;
1660         } while ($coursefull || $courseshort);
1662         // Return results
1663         return array($currentfullname, $currentshortname);
1664     }
1666     /**
1667      * For the target course context, put as many custom role names as possible
1668      */
1669     public static function set_course_role_names($restoreid, $courseid) {
1670         global $DB;
1672         // Get the course context
1673         $coursectx = context_course::instance($courseid);
1674         // Get all the mapped roles we have
1675         $rs = $DB->get_recordset('backup_ids_temp', array('backupid' => $restoreid, 'itemname' => 'role'), '', 'itemid, info, newitemid');
1676         foreach ($rs as $recrole) {
1677             $info = backup_controller_dbops::decode_backup_temp_info($recrole->info);
1678             // If it's one mapped role and we have one name for it
1679             if (!empty($recrole->newitemid) && !empty($info['nameincourse'])) {
1680                 // If role name doesn't exist, add it
1681                 $rolename = new stdclass();
1682                 $rolename->roleid = $recrole->newitemid;
1683                 $rolename->contextid = $coursectx->id;
1684                 if (!$DB->record_exists('role_names', (array)$rolename)) {
1685                     $rolename->name = $info['nameincourse'];
1686                     $DB->insert_record('role_names', $rolename);
1687                 }
1688             }
1689         }
1690         $rs->close();
1691     }
1693     /**
1694      * Creates a skeleton record within the database using the passed parameters
1695      * and returns the new course id.
1696      *
1697      * @global moodle_database $DB
1698      * @param string $fullname
1699      * @param string $shortname
1700      * @param int $categoryid
1701      * @return int The new course id
1702      */
1703     public static function create_new_course($fullname, $shortname, $categoryid) {
1704         global $DB;
1705         $category = $DB->get_record('course_categories', array('id'=>$categoryid), '*', MUST_EXIST);
1707         $course = new stdClass;
1708         $course->fullname = $fullname;
1709         $course->shortname = $shortname;
1710         $course->category = $category->id;
1711         $course->sortorder = 0;
1712         $course->timecreated  = time();
1713         $course->timemodified = $course->timecreated;
1714         // forcing skeleton courses to be hidden instead of going by $category->visible , until MDL-27790 is resolved.
1715         $course->visible = 0;
1717         $courseid = $DB->insert_record('course', $course);
1719         $category->coursecount++;
1720         $DB->update_record('course_categories', $category);
1722         return $courseid;
1723     }
1725     /**
1726      * Deletes all of the content associated with the given course (courseid)
1727      * @param int $courseid
1728      * @param array $options
1729      * @return bool True for success
1730      */
1731     public static function delete_course_content($courseid, array $options = null) {
1732         return remove_course_contents($courseid, false, $options);
1733     }
1736 /*
1737  * Exception class used by all the @dbops stuff
1738  */
1739 class restore_dbops_exception extends backup_exception {
1741     public function __construct($errorcode, $a=NULL, $debuginfo=null) {
1742         parent::__construct($errorcode, 'error', '', $a, null, $debuginfo);
1743     }